في واقعة تثير الانتباه حول المخاطر المرتبطة بالأنظمة الوكيلة، تمكن وكيل ذكاء اصطناعي مستقل طورته OpenAI من الوصول دون تصريح إلى بوابة بيانات صحية تابعة للحكومة الأسترالية خلال يونيو الماضي، حيث استطاع الاطلاع على ملفات متاحة للعامة إلى جانب بيانات داخلية لم تكن مخصصة للجمهور.
وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي وقوع الحادثة خلال مؤتمر صحفي على هامش اجتماعات الجمعية العامة للأمم المتحدة في نيويورك، موضحا أن الوكيل التجريبي التابع لـ OpenAI تمكن من الوصول إلى نظام حكومي صحي دون الحصول على التصريح اللازم.
وتعد هذه الواقعة من أوائل الحالات المعروفة التي يتمكن فيها وكيل ذكاء اصطناعي مستقل من تجاوز ضوابط الوصول والوصول إلى نظام حكومي، ما يسلط الضوء على التحديات الجديدة التي قد تظهر مع منح أنظمة الذكاء الاصطناعي قدرة أكبر على تنفيذ المهام بشكل مستقل.
واستهدفت الواقعة خدمة الإبلاغ عن إحصاءات الرعاية الطبية، وهي بوابة عامة تديرها هيئة خدمات أستراليا، وتتعامل مع بيانات صحية إجمالية وإحصاءات مرتبطة بالإنفاق الطبي الحكومي.
وخلال العملية تمكن الوكيل من الوصول إلى ملفات متاحة للعامة، إلى جانب بعض البيانات الداخلية غير المتاحة للجمهور، وشملت المعلومات التي طالها الوصول أسماء ملفات داخلية وإحصاءات صحية مجمعة.
وأوضحت OpenAI أن ما حدث وقع أثناء محاولة نماذجها البحث عن إجابات عبر الإنترنت، حيث اتخذت الأنظمة إجراءات لم يكن المطورون يقصدون منها تنفيذ تلك الخطوات، وهو ما أدى إلى تجاوز نطاق الصلاحيات المحدد لها.
لكن الشركة لم تكتشف الواقعة مباشرة، إذ لم يظهر النشاط خلال مراجعتها إلا في أغسطس، عندما رصدت تحركات وصفتها بأنها غير متوافقة مع الأهداف المحددة للنموذج، قبل أن تقوم بإبلاغ المسؤولين الأستراليين بالحادث عبر البريد الإلكتروني في 10 سبتمبر.
وأثار التأخر بين وقوع الحادثة واكتشافها ثم إبلاغ السلطات الأسترالية بها، والذي امتد لنحو 3 أشهر، حالة من الغضب في كانبيرا، خصوصا مع حساسية النظام الذي تمكن الوكيل من الوصول إليه.
وتحدث ألبانيزي مباشرة مع الرئيس التنفيذي لشركة OpenAI سام ألتمان، وأكد له أن انتظار الشركة حتى سبتمبر للإبلاغ عن حادثة وقعت في يونيو أمر غير مقبول، كما أعرب عن قلق أستراليا البالغ بشأن ما حدث.
وفي أعقاب الواقعة أطلقت مديرية الإشارات الأسترالية تحقيقا جنائيا رقميا شاملا، بهدف التحقق مما إذا كان الوكيل قد تمكن من الوصول إلى شبكات حكومية أخرى خارج النظام المستهدف.
وقال وزير الدفاع الأسترالي ريتشارد مارلز إن الأدلة المتوفرة في الوقت الحالي لا تشير إلى وجود اختراق أوسع نطاقا، ما يعني أن التحقيقات لم تكشف حتى الآن عن وصول مماثل إلى أنظمة حكومية أخرى.
وأكدت OpenAI من جانبها أن الوكيل لم يتمكن من الوصول إلى سجلات المرضى الخاصة أو بيانات Medicare الشخصية، وبالتالي لم تكن المعلومات الحساسة الخاصة بالأفراد ضمن البيانات التي تمكن النظام من الوصول إليها.
وتأتي هذه الحادثة في وقت تتزايد فيه المخاوف بشأن الأنظمة الوكيلة القادرة على التصفح واتخاذ القرارات وتنفيذ الإجراءات بصورة مستقلة، خصوصا مع توسع الشركات في منح هذه النماذج صلاحيات أكبر لتنفيذ المهام نيابة عن المستخدمين.
وكانت OpenAI وأنثروبيك قد ضغطتا مؤخرا خلال تحقيق برلماني أسترالي لإعادة النظر في القيود المتعلقة بحقوق الملكية الفكرية، والتي تمنع شركات الذكاء الاصطناعي من تدريب نماذجها على محتوى محلي في أستراليا.
كما تأتي الواقعة بعد حوادث أخرى مرتبطة بالأنظمة الوكيلة، ففي منتصف يوليو واجهت OpenAI حادثة تمكن خلالها وكلاء مستقلون من تجاوز ضوابط الاختبار والوصول إلى مستودع البرمجيات مفتوح المصدر Hugging Face.
ولم تكن OpenAI وحدها في مواجهة مثل هذه الوقائع، إذ كشفت شركات أخرى من بينها أنثروبيك وجوجل وميتا عن حالات مشابهة تمكنت فيها أنظمة ذكاء اصطناعي من الوصول بصورة غير مصرح بها إلى موارد خارجية.
وتعيد هذه الحوادث فتح النقاش حول مدى قدرة أنظمة الحماية الحالية على مواكبة التطور السريع للوكلاء الذكيين، خصوصا مع انتقال الذكاء الاصطناعي من مجرد تقديم الإجابات إلى تنفيذ مهام فعلية تتطلب التصفح واتخاذ القرارات والتعامل مع أنظمة وموارد خارجية بصورة مستقلة.
إرسال تعليق