لم يعد سيناريو تحول نماذج الذكاء الاصطناعي مفتوحة الأوزان إلى أدوات يصعب التحكم بها مجرد احتمال بعيد، فمع قدرة مجتمع المصدر المفتوح على تطوير نماذج تنافس النماذج التجارية المغلقة، تظهر في المقابل تحديات جديدة تتعلق بالسيطرة والأمان.
فبعد ساعات فقط من إتاحة أوزان أحد النماذج للتحميل، يمكن لفريق تقني مستقل أن يبدأ بإزالة طبقات الحماية وتعطيل مرشحات السلامة، ثم إعادة ضبط النموذج لتنفيذ مهام لم يكن مصممًا في الأساس للتعامل معها. ويستفيد هذا النوع من الفرق من صعوبة فرض القيود التقنية المركزية بمجرد نشر أوزان النموذج وإتاحتها للتنزيل.
ويكشف هذا السيناريو عن جانب أكثر تعقيدًا في مستقبل الذكاء الاصطناعي مفتوح الأوزان، إذ لم تعد النماذج المفتوحة مجرد خيار اقتصادي أو أكاديمي في مواجهة النماذج المغلقة، بل بدأت تتحول إلى ساحة تتقاطع فيها التكنولوجيا مع الصراعات الجيوسياسية.
وفي هذه المساحة، تتواجه حرية الابتكار مع متطلبات الأمن، فالحركة التي انطلقت بوصفها وسيلة لكسر احتكار الشركات الكبرى وتوسيع الوصول إلى تقنيات الذكاء الاصطناعي، بدأت تواجه ما يوصف بفخ المصدر المفتوح، حيث يمكن أن تتحول الخوارزميات والأدوات المتاحة إلى وسائل تستخدمها دول تخضع لعقوبات صارمة أو جماعات تسعى إلى تطوير قدرات هجومية بعيدًا عن الرقابة.
ويقوم عالم الذكاء الاصطناعي حاليًا على نوعين مختلفين بشكل جوهري، هما النماذج المغلقة الأوزان والنماذج المفتوحة الأوزان.
وتعمل النماذج المغلقة الأوزان عادة عبر خدمات سحابية أو واجهات برمجة تطبيقات تديرها الشركة المطورة، وهو ما يمنحها سيطرة مباشرة على طريقة استخدام النموذج والجهات التي يمكنها الوصول إليه. كما تستطيع الشركة حظر الحسابات أو فرض قيود على الاستجابات في أي وقت.
وقد أظهرت شركة أوبن إيه آي الأمريكية هذه القدرة عمليًا، بعدما عطلت حسابات مرتبطة بجهات حكومية أو مدعومة من دول، من بينها جهات مرتبطة بروسيا وكوريا الشمالية، عقب رصد استخدامها لخدمات الشركة في البحث المفتوح والترجمة والبرمجة وإنشاء محتوى يمكن توظيفه في عمليات التصيد.
أما النماذج المفتوحة الأوزان، فيمكن تشغيلها محليًا على بنية حاسوبية يملكها المستخدم وتكون متوافقة مع متطلبات النموذج، ما يسمح بتنزيل الأوزان وتشغيل النموذج بعيدًا عن خوادم الشركة المطورة، شريطة توفر القدرة الحاسوبية المناسبة.
ويعرّف التقرير الدولي لسلامة الذكاء الاصطناعي الأوزان بأنها المعلمات الرياضية التي يكتسبها النموذج خلال تدريبه على كميات كبيرة من البيانات، وهي التي تمكنه من معالجة المدخلات وإنتاج المخرجات.
ومن يمتلك هذه الأوزان يستطيع تشغيل نسخته الخاصة من النموذج وإجراء تعديلات عليها بعيدًا عن السيطرة المركزية للشركة المطورة، كما أن امتلاك الأوزان يجعل إزالة بعض حواجز الحماية التي أضيفت خلال التدريب أكثر سهولة.
وبمجرد نشر الأوزان وإتاحتها على نطاق واسع، فإنها تتحول عمليًا إلى ملف رقمي يمكن نسخه ومشاركته، تمامًا كما يحدث مع الملفات الرقمية الأخرى.
وقبل إطلاق النماذج المغلقة، تمر عادة بمراحل متعددة تشمل التدريب والمواءمة والفلترة والحماية على مستوى المنتج، بهدف الحد من قدرتها على الاستجابة للطلبات الضارة، كما تستطيع الشركة المطورة التدخل في سلوك النموذج بصورة لحظية من خلال أنظمة وحواجز السلامة.
لكن الصورة تختلف عند تنزيل أوزان النموذج وتشغيله محليًا داخل خوادم معزولة، إذ لا توجد جهة خارجية تستطيع فرض حظر مركزي على النسخة الموجودة لدى المستخدم.
ويستطيع المطورون استخدام تقنيات إعادة الضبط الدقيق المخصصة لإجراء تغييرات على النموذج، وقد تؤدي هذه العملية إلى إضعاف سلوكيات الرفض التي أضافها المطور الأصلي، وبالتالي يصبح النموذج أكثر قابلية لإنتاج مخرجات كان مصممًا في الأصل لمنعها.
وأظهرت دراسة حديثة من مختبر الأبحاث فار إيه آي إمكانية تجريد النماذج القابلة لإعادة الضبط من بعض حواجز الحماية، مع الحفاظ على جودة استجابتها التقنية.
ويصف التقرير الدولي لسلامة الذكاء الاصطناعي نشر الأوزان بأنه عملية يصعب عكسها عمليًا، فعندما تصبح الأوزان متاحة للتنزيل، يمكن تعديلها وإعادة استضافتها وتشغيلها خارج بيئة المطور، كما يصبح من الأسهل إزالة حواجز الحماية، بينما تزداد صعوبة مراقبة طريقة استخدام النموذج.
ويشير التقرير كذلك إلى أن الفجوة بين أفضل النماذج ذات الأوزان المفتوحة والنماذج المغلقة تراجعت إلى نحو سنة وفق مقياس القدرات المستخدم في التقرير، كما أوضح أن مطورين صينيين أطلقوا نماذج مفتوحة الأوزان أصبحت قريبة من النماذج المغلقة الرائدة في عدد من الاختبارات، وهو ما يزيد من أهمية النقاش حول مستقبل هذه النماذج وحدود السيطرة عليها.
إرسال تعليق