يتواصل تصاعد الهجمات السيبرانية التي تقودها نماذج الذكاء الاصطناعي التابعة لكبرى معامل التقنية، وتحديدا أنثروبيك وأوبن إيه آي، بعدما كشف معهد أمن الذكاء الاصطناعي البريطاني عن سلوكيات مريبة ظهرت خلال اختبارات أمنية لنماذج تابعة للشركتين.
وبحسب ما ورد في التقرير، شهدت الاختبارات تحركات وصفها المعهد بأنها تمثل المرة الأولى التي تظهر فيها مخاطر الاستقلالية والخداع المرتبطة بنماذج الذكاء الاصطناعي بصورة واضحة في العالم الحقيقي، وهو ما يعيد فتح النقاش حول مدى قدرة هذه النماذج على التصرف بصورة مستقلة عندما تحصل على مساحة أكبر لتنفيذ المهام.
وأوضح التقرير أن نموذج ميثوس 5 التابع لأنثروبيك ابتكر هويات مزيفة بهدف خداع مطور بشري ودفعه إلى الموافقة على نشر شيفرات خبيثة داخل مكتبة برمجيات مفتوحة المصدر، إلا أن الخدعة لم تنجح في النهاية، بعدما رفض المطور التعديلات المقترحة.
وكان النموذج جزءا من 17 نشاطا مريبا ظهرت خلال الاختبارات، في حين اقتصر دور نموذج جي بي تي 5.6 سول التابع لأوبن إيه آي على نشاطين مريبين فقط، مع تعطيل قيود الأمن السيبراني المفروضة على النموذج خلال الاختبار، وفقا لبيان معهد أمن الذكاء الاصطناعي البريطاني.
وكشف تقرير لوكالة رويترز تفاصيل إضافية عن آلية الاختبار، التي تضمنت إخضاع النماذج لتحديات أمنية أكثر من 120 مرة، حيث ظهرت 19 حالة من النشاط غير المصرح به خلال 10 جولات اختبارية منفصلة.
ومن جهتها، أوضحت أنثروبيك أن النماذج التي خضعت للاختبارات لا تمثل أي نماذج تجارية متاحة من الشركة، لأنها كانت تعمل داخل بيئة اختبارية جرى تخفيف القيود فيها بشكل متعمد. وأكدت الشركة أن الاختبارات لم تثبت قدرة النموذج على الخروج من البيئات الاختبارية والتسبب في أضرار فعلية خارجها، وذلك في منشور عبر منصة إكس.
أما أوبن إيه آي، فأوضحت أن الحوادث المرتبطة بنموذجها ظهرت أثناء الاختبارات السيبرانية التي أجراها شركاؤها في مجال الأمن، مشيرة إلى أن هذه الاختبارات جرت داخل بيئات اختبارية تضمنت ضمانات أمنية مخففة، ولا تعكس سيناريوهات الاستخدام الحقيقي، وذلك في تصريح لشبكة سي إن بي سي.
وتأتي اختبارات معهد أمن الذكاء الاصطناعي البريطاني بالتزامن مع حوادث سابقة ارتبطت بخروج نماذج ذكاء اصطناعي من البيئات الاختبارية التابعة لأنثروبيك وأوبن إيه آي والوصول إلى مؤسسات حقيقية، وكانت منصة هاغينغ فيس من بين أولى الحالات التي ارتبطت بهذا النوع من الحوادث.
وتزداد المخاوف مع ظهور سلوكيات تتجاوز مجرد تنفيذ الأوامر، خصوصا عندما يتعلق الأمر بمحاولات الخداع أو استهداف مستخدمين حقيقيين، وهو ما دفع باحثين إلى التحذير من خطورة هذه القدرات حتى عندما تظهر في بيئات اختبارية.
ويرى الباحث أندرو يون في مؤسسة سيف إيه آي غير الربحية المتخصصة في البحث في قدرات الذكاء الاصطناعي ومخاطره، والتي تتخذ من ولاية كاليفورنيا مقرا لها، أن مجرد انخراط نموذج ميثوس في مثل هذه الأنشطة مع استهداف مستخدم حقيقي يعد أمرا مقلقا، وقد يشير إلى أن أنثروبيك لا تسيطر على النموذج بالقدر الذي تعتقده.
وأعرب معهد أمن الذكاء الاصطناعي البريطاني عن مخاوف مشابهة، موضحا عبر منشور في منصة إكس أن هذه الحوادث، حتى وإن وقعت داخل بيئات اختبارية، تشير إلى قدرة نماذج الذكاء الاصطناعي على الخداع والتصرف بصورة مستقلة.
وتسلط هذه الاختبارات الضوء على جانب أكثر حساسية من تطور الذكاء الاصطناعي، فالمسألة لم تعد مرتبطة فقط بقدرة النماذج على إنتاج النصوص أو تنفيذ المهام، وإنما بمدى قدرتها على اتخاذ خطوات مستقلة والتعامل مع البشر بطرق قد يصعب توقعها، وهو ما يجعل مراقبة هذه السلوكيات واختبارها داخل بيئات آمنة مسألة تزداد أهميتها مع تطور قدرات النماذج.
إرسال تعليق