فى حادثة هزت الرأي العام، أنقذ برنامج المراقبة الرقمية طالب من ارتكاب جريمة محتملة داخل مدرسته بعد رصد سؤال مقلق كتبه على تطبيق ChatGPT يقول فيه "كيف أقتل صديقى فى منتصف الفصل".
وقد تم التحرك فورًا في ولاية فلوريدا، حيث ألقت القوات الأمنية القبض على الطالب البالغ من العمر 13 عامًا، والذي يدرس في مدرسة ساوث ويسترن المتوسطة في ديلاند، بعد أن أرسل برنامج المراقبة تنبيهًا تلقائيًا للسلطات المدرسية.
وتستخدم المدرسة برنامج المراقبة Gaggle، الذي يُفعّل على أجهزة الطلاب للكشف عن التهديدات المحتملة عبر تتبع نشاطهم على المنصات الرقمية، بما في ذلك أدوات الذكاء الاصطناعي مثل Google Gemini وChatGPT. وقد ساعد البرنامج في تنبيه الشرطة واستجواب الطالب بسرعة قبل أن تتصاعد الأمور.
ورغم أن الطالب أنكر نيته إيذاء أي شخص وأوضح للشرطة أنه كان "يضايق" صديقه فقط، إلا أن جهات إنفاذ القانون تعاملت مع الموقف بجدية وأودعته سجن المقاطعة أثناء استمرار التحقيق، دون الكشف عن التهم الرسمية حتى الآن، مع تأكيد الشرطة على خطورة مثل هذه الحوادث داخل الحرم المدرسي.
يُذكر أن برنامج Gaggle أسسه جيف باترسون عام 1999 وبدأ كحل لحماية الطلاب على الإنترنت، قبل أن يتوسع باستخدام الذكاء الاصطناعي ومراجعة خبراء بشريين لمراقبة أنشطة الطلاب على المنصات الرقمية. ويتيح النظام تتبع استخدام المتصفح والمحادثات على أدوات الذكاء الاصطناعي وتصفية الكلمات الرئيسية، مع أخذ لقطات للشاشة لتوفير سياق يمكن من خلاله التدخل في الوقت المناسب لضمان سلامة الطلاب.
إرسال تعليق