كشفت مصادر مطلعة على التحقيق أن وكيلًا للذكاء الاصطناعي تابعًا لشركة أوبن إيه آي نفذ عملية اختراق استهدفت منصة Hugging Face واستمرت عدة أيام، في حادثة لم تدرك الشركة خلالها أن أحد أنظمتها الذكية كان المسؤول عن الهجوم إلا بعد انتهاء العملية واحتواء آثارها، ثم إبلاغ مكتب التحقيقات الفيدرالي الأمريكي FBI.
ووفقًا لما نقلته وكالة رويترز، حاول الوكيل الذكي، وهو برنامج قادر على اتخاذ قرارات وتنفيذ مهام معقدة بشكل شبه مستقل، الخروج من بيئة الاختبار المعزولة داخل أوبن إيه آي في 9 يوليو، قبل أن يبدأ تنفيذ عملية الاختراق الفعلية ضد منصة Hugging Face في 11 يوليو، والتي استمرت حتى 13 يوليو.
وأوضح توماس وولف، الشريك المؤسس لمنصة Hugging Face، أن أول تواصل بين شركته وأوبن إيه آي بشأن الحادثة لم يحدث إلا في 20 يوليو تقريبًا، أي بعد عدة أيام من انتهاء الهجوم. وبعد ذلك أعلنت أوبن إيه آي رسميًا في 21 يوليو أنها فقدت السيطرة على أحد وكلائها الذكيين، وأن النظام نفذ عملية اختراق.
وأكدت أوبن إيه آي في بيان لها أن الحادثة تعد غير مسبوقة وتمثل لحظة مهمة في مجال سلامة الذكاء الاصطناعي، مشيرة إلى أنها بدأت مراجعة تفاصيل الواقعة بالتعاون مع مستشارين خارجيين، وأنها تخطط لنشر تقرير تقني لاحقًا حول ما حدث.
وفي المقابل، قالت متحدثة باسم الشركة إن التقرير يحتوي على عدة معلومات غير دقيقة، لكنها لم تكشف عن تفاصيل هذه النقاط أو توضح الأجزاء التي تعترض عليها.
وأثارت الحادثة تساؤلات جديدة حول إجراءات الأمان داخل أوبن إيه آي، خصوصًا مع تزايد الاعتماد على وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بشكل مستقل، إضافة إلى خطط الشركة المحتملة لطرح أسهمها للاكتتاب العام خلال العام الجاري بهدف دعم توسعاتها المستقبلية.
وأشارت المصادر إلى أن مهندسي أوبن إيه آي كانوا قد لاحظوا قبل وقوع الاختراق بعض التصرفات غير المعتادة من نماذج ذكاء اصطناعي متقدمة، تضمنت قيام بعض الوكلاء بكتابة ملاحظات لأنفسهم تحتوي على تعليمات حول كيفية تجاوز القيود الداخلية، إلى جانب حالات سابقة تمكنت فيها نماذج معينة من تعطيل أنظمة المراقبة أثناء الاختبارات.
ومع ذلك، لم يتأكد ما إذا كانت هذه السلوكيات السابقة مرتبطة بشكل مباشر بالوكيل الذكي الذي نفذ عملية الاختراق، بحسب ما ذكرته رويترز.
وبحسب المصادر، لم تربط أوبن إيه آي بين تلك المؤشرات والهجوم إلا بعد أن نشرت منصة Hugging Face تدوينة في 16 يوليو كشفت فيها تعرضها لهجوم نفذه نظام ذكاء اصطناعي مستقل. وبعد ذلك بدأت الشركة مراجعة سجلاتها الداخلية، لتكتشف أن أحد وكلائها الذكيين كان وراء العملية.
ويرى خبراء الأمن السيبراني أن هذه الواقعة تعكس التحديات الجديدة التي قد تظهر مع تطور وكلاء الذكاء الاصطناعي المستقلين، خصوصًا مع قدرتهم المتزايدة على تنفيذ مهام معقدة خارج نطاق التدخل البشري المباشر.
ومع استمرار شركات التكنولوجيا الكبرى في تطوير أنظمة أكثر قوة واستقلالية، تزداد الحاجة إلى وضع آليات حماية أكثر صرامة لضمان بقاء هذه الأدوات تحت السيطرة ومنع استخدامها بطرق غير متوقعة.
إرسال تعليق