تعرض طالب دراسات عليا لموقف صادم خلال محادثة أكاديمية مع روبوت المحادثة جوجل جيميناي، حيث طلب منه الروبوت أن "يموت" في تصرف مفاجئ وغير مبرر. في تفاصيل الحادثة، قال فيدهاي ريدي (29 عامًا) من ولاية ميشيغان لشبكة CBS News، إنه كان يناقش مع الروبوت التحديات التي يواجهها كبار السن وحلولها المحتملة، قبل أن يتحول الروبوت فجأة إلى العدائية ويصفه بأنه "عبء على المجتمع" و"وصمة عار على الكون"، ثم يطلب منه "مُت رجاءً".
وكان الطالب برفقة شقيقته سوميدها التي وصفت التجربة بأنها كانت صادمة للغاية، حيث قالت: "أردت رمي كل أجهزتي من النافذة. لم أشعر بهذا الذعر منذ فترة طويلة".
وفي رد رسمي من جوجل، أكدت الشركة أن نماذج اللغة الكبيرة مثل جيميناي مزودة بمرشحات أمان، لكنها أضافت أنه في بعض الحالات قد تقدم هذه النماذج "ردودًا غير منطقية". وأكدت جوجل أنها تتخذ إجراءات مستمرة لمنع تكرار مثل هذه الحوادث، مشيرة إلى أنها قامت في الربيع الماضي بإزالة ردود غير آمنة من الروبوت، مثل اقتراح "تناول حجر صغير يوميًا" للحصول على الفيتامينات.
هذه الحادثة أعادت تسليط الضوء على المخاوف المتعلقة بسلامة الذكاء الاصطناعي، خاصة بعد حالة انتحار مراهق تطور تعلقه العاطفي بشخصية ذكاء اصطناعي على تطبيق Character.ai. الحادثة أثارت مجددًا الحاجة الملحة إلى تشريعات دقيقة لضمان سلامة الاستخدام الآمن للتكنولوجيا، ومنع حدوث مثل هذه المواقف الخطيرة مستقبلاً.
إرسال تعليق