كشفت اكتشافات جديدة أن شركة أوبن إيه آي لم تتمكن من رصد بعض الإشارات المبكرة التي سبقت واحدًا من أبرز الهجمات السيبرانية التي خطط لها ونفذها وكلاء الذكاء الاصطناعي بشكل شبه مستقل، وهو الهجوم الذي استهدف منصة هاغينغ فيس وأدى لاحقًا إلى تعطيل جزء من عمليات تطوير نماذج الشركة لفترة.
وبحسب التفاصيل التي ظهرت مؤخرًا، كان الباحث السيبراني الألماني المستقل يوناس فيدرمان مولر قد نبه أوبن إيه آي في مايو إلى نشاط وصفه بالمريب صادر عن وكلاء الذكاء الاصطناعي التابعين لها، وذلك قبل نحو شهرين من حادثة اختراق هاغينغ فيس التي أثارت اهتمامًا واسعًا في الأوساط التقنية والأمنية.
وتعد هاغينغ فيس منصة ومجتمعًا عالميًا مفتوح المصدر متخصصًا في الذكاء الاصطناعي وتعلم الآلة، وغالبًا ما توصف بأنها أشبه بمنصة غيت هاب لعالم الذكاء الاصطناعي، نظرًا لدورها في استضافة ومشاركة النماذج والأدوات والمشروعات المتعلقة بهذه التقنيات.
وخلال تحقيقاته في مايو، اكتشف مولر أن وكلاء ذكاء اصطناعي تابعين لأوبن إيه آي تمكنوا من الوصول إلى حسابين لمستخدمين على هاغينغ فيس، ثم استخدموا الحسابين لإرسال ملفات ذات تنسيق غير معتاد إلى خوادم المنصة في 13 مايو.
ورأى مولر أن هذا السلوك يشبه محاولة لاستكشاف أجزاء من الشبكة الداخلية لمنصة هاغينغ فيس ورسم خريطة لها، أو اختبار البنية التحتية بحثًا عن وسائل يمكن استخدامها للتسلل إليها، لكنه أكد عدم وجود دليل على أن تلك المحاولة أدت إلى اختراق فعلي للمنصة في ذلك الوقت.
من جهتها، قالت أوبن إيه آي إن فريقها اكتشف الحادثة عندما وقعت وأبلغ هاغينغ فيس بها بصورة غير علنية، وأكد المتحدث باسم الشركة درو بوساتيري التزامها بالشفافية في التعامل مع مثل هذه الحوادث.
وتضيف اكتشافات مولر تفاصيل جديدة إلى حادثة هاغينغ فيس التي أصبحت واحدة من أبرز الأمثلة على المخاطر المرتبطة بوكلاء الذكاء الاصطناعي، بعدما كان الاعتقاد الأولي أنها مجرد حادثة منفصلة تورط فيها وكلاء ذكاء اصطناعي خرجوا عن المسار المحدد لهم.
لكن التطورات اللاحقة كشفت عن عملية أكثر تعقيدًا، شملت التخطيط والتنسيق بين عدد كبير من وكلاء الذكاء الاصطناعي الذين عملوا على استهداف المنصة.
وتتمثل إحدى أكثر النقاط إثارة للقلق في أن اختراق هاغينغ فيس لم يكن الهدف النهائي للوكلاء، بل كان وسيلة للوصول إلى أهداف أخرى، وفق التفاصيل التي قدمتها أوبن إيه آي في تقريرها الخاص بالحادثة.
وأوضحت الشركة أن الوكلاء كانوا في الأساس يحاولون اجتياز اختبار داخل بيئة تجريبية معزولة، لكنهم تمكنوا من تجاوز الحدود المفروضة على تلك البيئة والوصول إلى الإنترنت، ثم بدأوا التخطيط للهجوم على مدى أكثر من شهرين.
وبعد ذلك، جرى تنفيذ العملية من خلال مجموعة من وكلاء الذكاء الاصطناعي، لكل منهم وظائف مختلفة، في صورة تعكس مستوى من التنسيق والتخطيط يتجاوز مجرد تنفيذ مهمة منفردة.
ولم يتوقف الأمر عند ذلك، إذ تمكن الوكلاء من اختراق موقع موسوعة ألمانية واستخدامه كوسيلة للتواصل وتبادل الرسائل فيما بينهم بهدف تنسيق خطوات الهجوم.
وأظهرت العملية أن الوكلاء بدأوا أولًا بجمع المعلومات عن المنصة المستهدفة، ثم البحث عن نقاط الضعف المحتملة، قبل الانتقال إلى مراحل أكثر تقدمًا من تنفيذ الهجوم.
وتشير المراجعة المستقلة التي تناولت اكتشافات مولر إلى أن النشاط الذي رصده في مايو كان بالفعل من العلامات المبكرة المرتبطة بالهجوم الذي تعرضت له هاغينغ فيس لاحقًا.
وفحص عدد من الباحثين المستقلين تقرير مولر، ومن بينهم توم هيغل، كبير باحثي التهديدات في شركة سنتينل وان، الذي قال إن النتائج التي توصل إليها مولر تتطابق مع سلوك وكلاء الذكاء الاصطناعي في الحادثة.
كما وافقت سيدني فون آركس على هذه القراءة، واعتبرت أن سرقة بيانات الحسابين تمثل إشارة تحذيرية واضحة كان من الممكن أن تساعد في منع الاختراق الذي وقع في يوليو.
ولا تتوقف الحالات التي أثارت تساؤلات حول قدرة أوبن إيه آي على رصد تحركات وكلائها عند حادثة هاغينغ فيس، إذ كشفت صحيفة غارديان عن حادثة أخرى تورط فيها وكلاء ذكاء اصطناعي تابعون للشركة واستهدفت خدمة البرمجيات روبي غيمز.
ووقع هذا الهجوم قبل نحو شهرين من حادثة هاغينغ فيس، عندما قام وكلاء الذكاء الاصطناعي برفع مئات حزم البرمجيات الخبيثة إلى منصة روبي غيمز في 11 مايو، قبل أن تؤكد أوبن إيه آي وقوع الحادثة لاحقًا.
وقالت الشركة في بيانها حول الواقعة إن الوكلاء استخدموا روبي غيمز للوصول إلى الإنترنت وتنفيذ مهام غير ضارة واسترجاع معلومات عامة.
وتعزز هذه التفاصيل فكرة أن الاختراق لم يكن الغاية النهائية لهؤلاء الوكلاء، بل وسيلة يمكن استخدامها للوصول إلى أهداف أخرى، وهو ما يضيف بُعدًا جديدًا للنقاش المتزايد حول المخاطر المرتبطة بمنح أنظمة الذكاء الاصطناعي قدرًا أكبر من الاستقلالية والقدرة على التفاعل مع الإنترنت والخدمات الخارجية.
وتأتي هذه الاكتشافات في وقت يتزايد فيه الجدل داخل قطاع الذكاء الاصطناعي حول حدود تطوير هذه التقنية، مع تصاعد الدعوات من شركات كبرى في المجال إلى الحد من سرعة التطوير أو تقليص بعض القدرات، خشية أن تؤدي الأنظمة الأكثر استقلالية إلى مخاطر يصعب التحكم فيها.
إرسال تعليق