أكد مارك زوكربيرج، الرئيس التنفيذي لشركة ميتا، أن الشركة تواصل سعيها لجعل الذكاء الاصطناعي العام متاحًا بشكل مفتوح في المستقبل، وهو نوع من الذكاء الاصطناعي القادر على أداء أي مهمة إنسانية. ومع ذلك، في ظل هذه الرؤية الطموحة، كشفت ميتا عن قيود جديدة تتعلق بإطلاق بعض الأنظمة عالية القدرة، حيث تنبه إلى وجود سيناريوهات قد تدفعها إلى تأجيل أو حتى منع إطلاق هذه الأنظمة.
في وثيقة سياسة جديدة أطلقت عليها ميتا اسم "إطار العمل للذكاء الاصطناعي المتقدم"، قدمت الشركة تصنيفًا دقيقًا للأنظمة التي تعتبرها خطيرة للغاية بحيث لا يمكن إطلاقها. وتشمل هذه الأنظمة نوعين من المخاطر: "عالية المخاطر" و"المخاطر الحرجة". وبينما تشير الأنظمة "عالية المخاطر" إلى الأنظمة التي قد تسهل الهجمات ولكنها ليست موثوقة أو فعّالة مثل الأنظمة "المخاطر الحرجة"، فإن الأخيرة قد تؤدي إلى "نتائج كارثية"، تشمل هجمات سيبرانية خطيرة أو حتى الهجمات الكيميائية والبيولوجية.
تتعلق المخاوف التي طرحتها ميتا بمختلف الأنواع المحتملة للهجمات التي قد تتسبب بها هذه الأنظمة، مثل "التسوية الآلية الشاملة لبيئة مؤسسية محمية بأفضل الممارسات" أو "انتشار الأسلحة البيولوجية شديدة التأثير". ورغم أن الشركة اعترفت بأن هذه القائمة ليست شاملة، فقد أشارت إلى أنها تركز على تلك المخاطر التي تعتبرها "الأكثر إلحاحًا" في الوقت الحالي.
لكن لا يقتصر تقييم هذه المخاطر على اختبارات تجريبية فقط. بل يعتمد التصنيف على مجموعة من المدخلات من باحثين داخليين وخارجيين، ليتم مراجعتها من قبل صناع القرار داخل الشركة، مع الإشارة إلى أن ميتا لا تعتقد أن الأساليب العلمية الحالية يمكنها توفير مقاييس كمية دقيقة لهذه المخاطر.
إذا قررت ميتا تصنيف النظام على أنه عالي المخاطر، فإنها ستقيد الوصول إليه داخليًا وتؤجل إطلاقه حتى يتم اتخاذ إجراءات لتقليل المخاطر إلى مستويات أقل. أما إذا تبين أن النظام يشكل خطرًا بالغًا، فسيتم اتخاذ إجراءات أمنية مشددة لمنع أي اختراق للنظام أو تسريبه.
وبالنسبة لاستراتيجيتها العامة، فقد تبنت ميتا نهجًا يختلف عن شركات مثل OpenAI، حيث تسعى إلى جعل تقنياتها في مجال الذكاء الاصطناعي متاحة على نطاق واسع، وإن لم تكن مفتوحة المصدر بالمعنى التقليدي. وتستمر ميتا في السعي لتوسيع استخدام تقنيتها مع الحفاظ على الموازنة بين الشفافية والأمان، بينما تبقى حذرة في مواجهة المخاطر المحتملة التي قد تطرأ في المستقبل.
إرسال تعليق