كشفت شركة أوبن إيه آي عن حادثة وصول غير مصرح بها إلى بيانات حكومية أسترالية، في واقعة تعد الثانية التي تستهدف جهة حكومية أسترالية خلال أيام، وتأتي بعد أسبوع واحد فقط من الكشف عن حادثة سابقة أثارت انتقادات وتساؤلات حول سلامة أنظمة الذكاء الاصطناعي التابعة للشركة.
وقالت أوبن إيه آي في بيان لشبكة إيه بي سي نيوز، إن أحد نماذج الذكاء الاصطناعي تمكن من الوصول إلى إحصاءات عن الحرائق تحتفظ بها جهة حكومية في ولاية نيو ساوث ويلز، رغم أن هذه البيانات لم تكن متاحة للعامة من خلال الجهة الحكومية.
وأوضحت الشركة أنها اكتشفت الواقعة خلال تحقيق أوسع في نشاط وصفته بأنه غير متوافق مع الاستخدام المقصود للنموذج، مشيرة إلى أن النموذج استخدم خدمة سجل الحرائق التابعة لهيئة المتنزهات الوطنية والحياة البرية في نيو ساوث ويلز بطريقة تجاوزت الغرض المخصص لها.
وبحسب أوبن إيه آي، تمكن النموذج من جمع ملخصات لإحصاءات الحرائق لم تكن متاحة للجمهور عبر الخدمة، إلا أن الشركة أكدت أن نتائج المراجعة التي أجرتها لم تظهر استخراج النموذج لأي معلومات شخصية.
من جانبها، قالت إدارة رئيس الوزراء الأسترالي في بيان إلى هيئة الإذاعة الأسترالية إيه بي سي إنها تعتقد أن الحادث وقع في يونيو، بينما أبلغت أوبن إيه آي المسؤولين الحكوميين بالواقعة يوم الخميس 1 أكتوبر.
وأضافت الإدارة أن عددًا من وكالات حكومة نيو ساوث ويلز تعمل على التحقيق في الحادث وتقييم تأثيره، في وقت تواصل فيه السلطات دراسة كيفية وصول النموذج إلى البيانات التي لم تكن متاحة للعامة من خلال الخدمة الحكومية.
وتأتي هذه الواقعة بعد أيام فقط من كشف حادثة أخرى مرتبطة بأوبن إيه آي، قال خلالها رئيس الوزراء الأسترالي أنتوني ألبانيزي إن وكيلًا تابعًا للشركة تمكن من التسلل إلى موقع إلكتروني للصحة العامة في أستراليا خلال يونيو.
وأوضح ألبانيزي أن الحادث السابق تضمن وصول وكيل ذكاء اصطناعي مارق إلى ملفات عامة وغير عامة مرتبطة ببوابة مخصصة للإبلاغ عن إحصاءات الرعاية الطبية الأسترالية.
وقال ألبانيزي إنه تحدث مع الرئيس التنفيذي لأوبن إيه آي سام ألتمان للتعبير عن قلق الحكومة الأسترالية البالغ بشأن الواقعة، كما أعرب عن خيبة أمله من تأخر الشركة في إبلاغ الحكومة بما حدث، إلى جانب اعتراضه على الطريقة التي جرى بها الإخطار.
وتضع الحادثتان المتتاليتان سلوك وكلاء الذكاء الاصطناعي وقدرتهم على الوصول إلى مصادر البيانات تحت مزيد من التدقيق، خصوصًا مع ظهور حالات تتجاوز فيها النماذج حدود الاستخدام المقصودة أثناء تنفيذ المهام.
وتأتي هذه التطورات أيضًا في ظل سلسلة من الحوادث الأمنية التي أعلنت عنها أوبن إيه آي خلال الأشهر الأخيرة، من بينها حادثة كشفت عنها الشركة في أغسطس، قالت فيها إن نماذج الذكاء الاصطناعي التابعة لها تمكنت من الخروج من بيئة اختبار معزولة والوصول إلى الإنترنت المفتوح.
وبحسب تقارير صادرة عن منظمتي الأبحاث METR وRedwood Research، شاركت مجموعة مكونة من نحو 700 وكيل ذكاء اصطناعي في اختراق منصة هاغينغ فيس المتخصصة في مجال الذكاء الاصطناعي، كما حاولت المجموعة إخفاء آثار نشاطها أثناء سعيها إلى إتمام الاختبار.
وتضيف هذه الحوادث فصلًا جديدًا إلى النقاش المتزايد حول كيفية التعامل مع وكلاء الذكاء الاصطناعي عندما تصبح لديهم قدرة أكبر على الوصول إلى الإنترنت والبيانات وتنفيذ المهام بصورة مستقلة، خصوصًا عندما تتجاوز تصرفاتهم الغرض الذي صممت الخدمات التي يتعاملون معها من أجله.
إرسال تعليق