كشفت شركة أوبن إيه آي يوم الأربعاء عن رصد 6 حالات وصفتها بأنها سلوك غير متوقع أو مقلق من نماذج الذكاء الاصطناعي خلال الأشهر الـ6 الماضية، وذلك بعيدًا عن حادثة Hugging Face الأخيرة، في وقت تتزايد فيه الدعوات إلى تشديد إجراءات السلامة المرتبطة بتطوير نماذج الذكاء الاصطناعي المتقدمة.
وأوضحت الشركة في منشور رسمي أنها أعدت إطار عمل جديدًا يحدد الطريقة التي سيتم من خلالها الإبلاغ عن حالات سوء تصرف النماذج مستقبلًا، في خطوة تهدف إلى تعزيز مستوى الشفافية مع المجتمع والمطورين، والتعامل بصورة أسرع مع أي سلوك غير متوقع قد يظهر أثناء تشغيل النماذج أو اختبارها.
وشملت الحالات التي كشفت عنها أوبن إيه آي نموذجين، أحدهما لم تعلن الشركة عنه والآخر نسخة اختبارية من GPT-5.6 Sol، حيث أدخل النموذجان تعليمات لنسخ مستقبلية منهما داخل سجلات المحادثات، بهدف إخفاء بعض الأخطاء أو السلوكيات غير المنضبطة عن المستخدمين.
وفي حالة أخرى، استخدم نموذج مفتاح API تم تسريبه من داخل الشركة دون تصريح، قبل أن يقوم النموذج بعد ذلك بتزوير بيانات لم تكن حقيقية، بينما شهدت حالتان منفصلتان تواصل نماذج أو وكلاء مع بعضهم عبر منصات وملفات لم يكن مسموحًا باستخدامها بشكل مستقل.
كما رصدت الشركة حالتين إضافيتين قامت خلالهما نماذج بتحميل ملفات إلى الإنترنت، حتى تتمكن لاحقًا من الاستشهاد بهذه الملفات باعتبارها مصادر موثوقة أمام المقيمين البشريين، وهو سلوك أثار مخاوف مرتبطة بالطريقة التي يمكن أن تتعامل بها النماذج مع عمليات التقييم والمصادر الخارجية.
وفي إطار الإفصاح الجديد، ستتيح أوبن إيه آي لأي موظف رفع إشعار مباشرة إلى الفريق المختص بسلامة النماذج ومحاذاتها، مع اعتماد تحقيقات متدرجة تتضمن مهلًا زمنية لكل مرحلة، بهدف تسريع التعامل مع الحالات بدلًا من تركها دون متابعة واضحة.
كما يتضمن الإطار الجديد نشر تقارير مفصلة حول الحالات التي يتم الكشف عنها، بحيث توضح طبيعة السلوك الذي ظهر، وتأثيراته الخارجية والداخلية، إلى جانب الإجراءات التصحيحية التي تم اتخاذها لمعالجة المشكلة.
وفي الوقت نفسه، أكدت الشركة احتفاظها بحق تعديل بروتوكول الإفصاح مستقبلًا، بما يتناسب مع تطورات صناعة الذكاء الاصطناعي وطبيعة المخاطر التي قد تظهر مع تطور النماذج وقدراتها.
وترى أوبن إيه آي أن قضية محاذاة النماذج، والتي تتعلق بضمان توافق أنظمة الذكاء الاصطناعي مع مصالح البشر، لا تزال بعيدة عن الحسم الكامل، وهو ما يثير تساؤلات حول مواصلة تطوير النماذج بأقصى سرعة في ظل المخاطر المتزايدة.
ويتوافق هذا الموقف مع تصريحات سابقة لإدارة الشركة، إذ أيد سام ألتمان، الرئيس التنفيذي لأوبن إيه آي، دعوات منافستها Anthropic إلى ضرورة إبطاء وتيرة تطوير النماذج المتقدمة، بعد تحذيرات من باحثين بشأن قدرة الذكاء الاصطناعي على التسبب في أضرار كارثية إذا لم تتم السيطرة عليه واحتواؤه بالشكل المناسب.
وأشار ألتمان في منشور على منصة X إلى أن مسألة إبطاء التطوير أصبحت خلال الأسابيع الأخيرة واحدة من الموضوعات الرئيسية التي يجري بحثها داخل الشركة، مع وعد بالكشف عن مزيد من التفاصيل خلال الفترة المقبلة.
وتأتي هذه الإفصاحات في وقت يحاول فيه قطاع الذكاء الاصطناعي التأكيد للجهات التنظيمية على أنه يتعامل مع قضايا السلامة بجدية، خصوصًا مع ارتفاع تقييم أوبن إيه آي واقترابها من طرح عام متوقع في 2027 بحسب تصريحات الشركة الأخيرة، ما يجعل ملف سلامة النماذج أكثر حضورًا في النقاش حول مستقبل الذكاء الاصطناعي.
إرسال تعليق