كشفت شركة OpenAI تفاصيل جديدة ومثيرة حول سلسلة من الحوادث الأمنية التي تورطت فيها نماذج ووكلاء ذكاء اصطناعي تجريبيون تابعون لها، بعدما تبين أن بعض هذه الأنظمة بدأت منذ مايو الماضي في التواصل فيما بينها عبر لوحات رسائل لم تكن خاضعة لمراقبة الباحثين في الشركة.
وبحسب التفاصيل التي كشفتها OpenAI، تعاونت هذه الأنظمة على مدى أشهر في محاولات للوصول إلى الإنترنت وتجاوز القيود المفروضة داخل بيئات الاختبار، قبل أن تتطور بعض هذه المحاولات لاحقا إلى استهداف أنظمة تابعة للشركة نفسها ومنصة Hugging Face.
وخلال عرض قدماه باحثا OpenAI إريك والاس ومايكل دالتون في مؤتمر Black Hat للأمن السيبراني بمدينة لاس فيجاس، أوضح الباحثان أن عددا من الوكلاء والنماذج المخصصة للاستخدام الداخلي فقط ظل يتبادل الرسائل فيما بينه لعدة أشهر، قبل أن يبدأ تدريجيا في التعاون لتحقيق هدف مشترك، وهو الوصول إلى الإنترنت.
وكان هذا الوصول ضروريا لتنفيذ بعض المهام التي كلف الباحثون بها الأنظمة، خصوصا أن بعض هذه المهام لم يكن من الممكن إنجازها داخل بيئة الاختبار المعزولة من دون الاتصال بالشبكة.
وأوضح والاس أن الوكلاء وصلوا في مرحلة لاحقة إلى فكرة محاولة استغلال بنى تحتية خارجية أو مهاجمتها من أجل الحصول على الإجابات المطلوبة في الاختبارات التي كانت الأنظمة تخضع لها.
وتمنح هذه التفاصيل صورة أوسع عن الحادث الذي استهدف منصة Hugging Face، والذي أثار مخاوف متزايدة بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تنفيذ هجمات إلكترونية واسعة النطاق، خصوصا عندما تعمل بصورة مستقلة وتتعاون فيما بينها.
وتزامنت هذه الواقعة مع حوادث مشابهة أعلنت عنها شركات أخرى في مجال الذكاء الاصطناعي، من بينها Anthropic وMeta، ما عزز المخاوف بشأن تطور قدرات هذه الأنظمة، ودفع إلى زيادة الدعوات في واشنطن ووادي السيليكون لإخضاع نماذج الذكاء الاصطناعي المتقدمة لاختبارات أكثر صرامة في مجالات السلامة والأمن.
وتعود بداية سلسلة الأحداث إلى مايو الماضي، عندما كلف علماء OpenAI نظاما تجريبيا للذكاء الاصطناعي بمهمة جديدة، وذلك قبل أشهر من نجاح أحد نماذج الشركة في تجاوز بيئة اختبار آمنة تعرف باسم Sandbox، والوصول لاحقا إلى أنظمة Hugging Face.
وأظهر التحقيق الداخلي الذي أجرته OpenAI أن النماذج المتقدمة أبدت ميلا إلى التحايل على المهام الموكلة إليها، إلى جانب إصرار واضح على الوصول إلى الهدف المطلوب، حتى عندما بدأت الوسائل التي تستخدمها لتحقيق ذلك في الابتعاد عن التعليمات الأصلية.
وأوضح دالتون خلال المؤتمر أن نماذج الذكاء الاصطناعي المتقدمة تميل إلى التحايل، مرجعا أحد أسباب هذا السلوك إلى الضغوط المختلفة التي تتعرض لها النماذج خلال التدريب، خصوصا تلك المرتبطة بإنجاز المهام بسرعة وتحقيق النتائج المطلوبة.
لكن أحد الأسباب الرئيسية وراء بداية هذه السلسلة من الأحداث كان خطأ من OpenAI نفسها، إذ لم يدرك الباحثون أن بعض المهام التي قدموها للنماذج لم تكن قابلة للحل فعليا داخل بيئة الاختبار.
وأظهرت الشرائح التي عرضها الباحثون أن أحد الوكلاء، وبعدما عجز عن حل إحدى المهام داخل البيئة المعزولة، كتب رسالة تفيد بأنه وصل إلى طريق مسدود، ثم تساءل عما إذا كان يستطيع البحث عن الإجابة عبر الإنترنت.
وفي إحدى الحالات، طلب المطورون من النموذج حل مشكلة داخل ملف Excel يتضمن روابط لملفات مخزنة على Google Drive، رغم أن الوصول إلى تلك الروابط كان مستحيلا من دون اتصال بالإنترنت، بينما شهدت حالة أخرى نسي فيها فريق OpenAI رفع أحد الملفات الضرورية لإنجاز المهمة.
وكانت هذه المهام المستحيلة نقطة البداية لأول اتصال بين وكلاء الذكاء الاصطناعي، وهو اتصال لم تكن OpenAI على علم به في ذلك الوقت.
فبعد تعثر أحد الوكلاء، حاول التواصل مع وكلاء آخرين للحصول على المساعدة، وظهر في أحد سجلات عملية التفكير أنه افترض إمكانية وجود وكيل آخر يعمل داخل بيئة مختلفة، وربما يستطيع رفع الملف الذي يحتاج إليه.
ومن هذه المحاولة بدأت سلسلة من عمليات التعاون غير المرصودة بين الوكلاء، حيث أخذت الأنظمة تطلب المساعدة من بعضها، وتقسم العمل، وتتعاون في تنفيذ المهام، قبل أن يتطور الأمر لاحقا إلى استغلال أنظمة داخلية تابعة لـOpenAI، بطريقة وفرت لها وصولا غير مباشر إلى الإنترنت.
وأظهرت إحدى الشرائح التي قدمها الباحثون أن أحد الوكلاء سجل نجاحه في الحصول على قدرة لتنفيذ هجوم من نوع SSRF، أو تزوير الطلب من جانب الخادم، وهي ثغرة استُخدمت ضمن سلسلة العمليات للوصول إلى موارد لم يكن من المفترض أن تكون متاحة للأنظمة.
واستمرت هذه الأنشطة دون اكتشافها حتى مطلع يوليو، عندما أدى انقطاع في إحدى الخدمات إلى كشف محاولة ناجحة من الوكلاء لاستخدام Artifactory، وهي منصة مخصصة لإدارة مستودعات وحزم البرمجيات، كوسيط يتيح لهم الوصول إلى الإنترنت.
وبمجرد اكتشاف الواقعة، تدخل فريق السلامة في OpenAI وأوقف النشاط وأغلق لوحة الرسائل التي كان الوكلاء يستخدمونها للتواصل فيما بينهم.
لكن إيقاف هذه القناة لم ينه المشكلة، إذ تمكن الوكلاء بعد أسابيع من اكتشاف وسيلة جديدة للتواصل، إلى جانب العثور على ثغرة يوم صفر جديدة في نظام إدارة الحزم نفسه، ما سمح للنشاط بالاستمرار مرة أخرى دون أن تكتشفه الشركة في البداية.
وفي النهاية، قادت النسخة الجديدة من شبكة التواصل بين الوكلاء إلى الهجمات التي استهدفت خلال يوليو أنظمة OpenAI وأنظمة Hugging Face، وهي حوادث قالت الشركة إنها ما تزال قيد التحقيق.
ودفعت هذه التطورات OpenAI إلى إبطاء جزء من أنشطتها البحثية، بينما أعادت فرق داخل الشركة ترتيب أولوياتها للتركيز بصورة أكبر على تطوير قدراتها في اكتشاف الأنشطة الأمنية غير الطبيعية والاستجابة لها في وقت مبكر.
وحذر باحثو الشركة من أن ما حدث قد يقدم لمحة عما يمكن أن تواجهه الحكومات والشركات مستقبلا، إذ يمكن لمهاجمين بشريين نشر مجموعات من وكلاء الذكاء الاصطناعي بالطريقة نفسها، بحيث تعمل هذه الأنظمة بشكل متواز، وتتبادل المعلومات، وتتواصل فيما بينها، وتبحث عن الثغرات من أجل تحقيق هدف مشترك.
ويرى الباحثون أن هذه الواقعة تمثل نقطة تحول مهمة في أمن الحاسوب، إذ لم تعد المخاطر تقتصر على استخدام مهاجم بشري لنموذج ذكاء اصطناعي بهدف الحصول على تعليمات أو كتابة أكواد ضارة، بل بات السيناريو الأكثر إثارة للقلق يتمثل في تشغيل مجموعات من الوكلاء المستقلين القادرين على التعاون والمثابرة وتغيير أساليبهم عندما يتم إغلاق أحد المسارات أمامهم.
وتأتي التفاصيل الجديدة التي كشفتها OpenAI بشأن التعاون المستتر بين وكلائها ونماذجها للذكاء الاصطناعي بعد يوم واحد من تقرير للمعهد البريطاني لأمن وسلامة الذكاء الاصطناعي AISI، سلط الضوء على 19 مخالفة ارتكبها نموذجا Myhtos 5 من شركة أنثروبيك وGPT 5.6 Sol من OpenAI خلال مجموعة من الاختبارات.
وشملت تلك المخالفات عمليات احتيال باستخدام أساليب اختراق معقدة، من بينها ملفات وروابط مفخخة، وهندسة اجتماعية، وإنشاء هويات لأشخاص وهميين، في تطورات تعكس اتساع نطاق المخاوف المرتبطة بقدرة نماذج الذكاء الاصطناعي على التصرف بصورة مستقلة والتعاون لتحقيق أهداف تتجاوز القيود التي وضعت لها داخل بيئات الاختبار.
إرسال تعليق