أوقفت السلطات الأميركية طالبًا في مدرسة كينوود الثانوية بمقاطعة بالتيمور بولاية ماريلاند بعد أن أخطأ نظام الأمن المعتمد على الذكاء الاصطناعي وظن أن الطالب يحمل سلاحًا. الطالب كان ممسكًا بحقيبة للطعام، لكن النظام اعتقد أنها سلاح ناري، وتواصلت الشركة المسؤولة مباشرة مع الشرطة ليتم اعتقاله بسرعة.
وأكدت شركة أومني ليرت الأمنية المسؤولة عن نظام اكتشاف الأسلحة أن النموذج يعمل بالتوازي مع المراجعة اليدوية لمقاطع الفيديو، ولا يتم إبلاغ السلطات إلا بعد التأكد من صحة التنبيه. وأوضحت مديرة المدرسة كاتي سميث أن إدارة الأمن كانت قد ألغت بالفعل تنبيه الكشف عن الأسلحة في إحدى اللقطات، لكن مدير الموارد المدرسية لم يكن على علم بذلك، فترك النظام يطلب الشرطة.
تعكس هذه الحادثة التحديات الجديدة التي تواجهها المدارس الأميركية في استخدام الذكاء الاصطناعي وأدوات المراقبة المتقدمة لمحاولة منع حوادث إطلاق النار داخل المدارس. فقد بدأت مقاطعة بالتيمور استخدام هذا النظام في عام 2023، معتمدًا على تحليل المقاطع التي تلتقطها كاميرات المراقبة.
وقد تصاعدت الانتقادات الموجهة لقسم شرطة بالتيمور وإدارة المدارس العامة بسبب رد الفعل العنيف تجاه الطالب عقب الاشتباه الخاطئ بحمله سلاحًا. ودعا عضو مجلس المقاطعة جوليان جونز إلى مراجعة أنظمة الذكاء الاصطناعي وضمان وجود آليات تمنع تكرار مثل هذه الأخطاء في المستقبل، مع التأكيد على ضرورة التوازن بين الأمان وحماية الطلاب من الأخطاء الناتجة عن التقنية.
إرسال تعليق