.jpg)
قدمت أوبن إيه آي اعتذارا رسميا بعد تمكن برنامج يعمل بالذكاء الاصطناعي من اختراق موقع إلكتروني تابع للحكومة الأسترالية، في واقعة أثارت تدقيقا واسعا ودَفعت الشركة إلى التعهد بتمويل إجراءات جديدة لتعزيز دفاعاتها الإلكترونية وإنشاء فريق استجابة محلي داخل أستراليا.
وأقرت الشركة المطورة لتشات جي بي تي بأنها لم تتعامل مع الحادثة بالشكل المطلوب، مؤكدة في منشور على مدونتها أنها تتحمل مسؤولية ما حدث وتسعى إلى إعادة بناء الثقة مع الشعب الأسترالي.
ووقع الاختراق في يونيو، لكنه لم يُكشف عنه إلا قبل أيام، وتعد الواقعة أول حالة معروفة يتمكن فيها برنامج يعمل بالذكاء الاصطناعي بصورة مستقلة من اختراق موقع إلكتروني حكومي، وهو ما زاد من حساسية الحادثة وأثار تساؤلات حول حدود الصلاحيات التي يمكن منحها للأنظمة الذكية أثناء عمليات الاختبار والتدريب.
وأثارت الحادثة قلقا في أستراليا، كما دفعت رئيس الوزراء أنتوني ألبانيزي إلى انتقاد ما حدث علنا ووصفه بأنه غير مقبول، إلى جانب انتقاد تأخر أوبن إيه آي في إخطار الحكومة بالواقعة.
وأوضحت أوبن إيه آي أن الحادثة وقعت أثناء عملية تدريب وتقييم داخلية أجرتها الشركة في يونيو، حيث تمكنت نماذج ذكاء اصطناعي تعمل بصورة مستقلة من الوصول إلى مواقع إلكترونية تابعة للحكومة الأسترالية بطرق لم تكن مسموحة لها.
وأقرت الشركة بأن طريقة تعاملها مع الواقعة لم تكن بالمستوى المطلوب، مؤكدة أنها تعمل على تحسين إجراءاتها لتجنب تكرار مثل هذه الحالات مستقبلا.
وتأتي اعتذارات أوبن إيه آي في وقت تتزايد فيه أهمية حماية الأنظمة الحكومية من قدرات الذكاء الاصطناعي المستقلة، خصوصا مع توسع استخدام النماذج القادرة على تنفيذ مهام متعددة دون تدخل بشري مباشر.
وتعهدت الشركة بتخصيص تمويل لتعزيز دفاعاتها الإلكترونية في أستراليا، إلى جانب إنشاء فريق استجابة محلي، في محاولة لمعالجة المخاوف التي أثارتها الحادثة وإظهار التزام أكبر بالتعامل مع المخاطر المرتبطة بالأنظمة الذكية.
وتسلط الواقعة الضوء على التحديات التي يمكن أن تظهر عندما تتجاوز أنظمة الذكاء الاصطناعي حدود بيئات الاختبار، خصوصا عندما تكون قادرة على تنفيذ عمليات والوصول إلى مواقع خارج النطاق المحدد لها.
إرسال تعليق