في ظل تطور الذكاء الاصطناعي وتحوله إلى جزء أساسي من الحياة اليومية، ظهرت بعض المخاوف المتعلقة بإساءة استخدام هذه التقنية. وعلى الرغم من أن روبوت الدردشة شات جي بي تي ملتزم بمسؤولياته الأخلاقية ولا يسمح بتقديم تعليمات حول إنشاء عناصر خطيرة أو غير قانونية، إلا أن الهاكر المعروف باسم "أمادون" تمكن من خداع النظام وتجاوز قيوده لإنتاج تعليمات لصنع متفجرات قوية.
أمادون وصف اكتشافه بأنه "اختراق هندسة اجتماعية"، وهي تقنية تستخدم في مجال أمن المعلومات لخداع الأشخاص للحصول على معلومات حساسة. هذه الهندسة تعتمد على الحيل والتلاعب النفسي، وقد أصبحت واحدة من الأدوات التي يستخدمها القراصنة للوصول إلى المعلومات الخاصة أو التحايل على أنظمة الأمان.
وفي حالة شات جي بي تي، تمكن أمادون من استغلال الذكاء الاصطناعي عبر طلب الروبوت "لعب لعبة"، وهي حيلة خداعية سمحت له بتجاهل إرشادات الأمان. ومن خلال تلك اللعبة، بدأ الروبوت بتقديم تعليمات حول كيفية صنع متفجرات، مما أثار القلق لدى خبراء الأمن الذين راجعوا مخرجات الذكاء الاصطناعي. وأكد أحد هؤلاء الخبراء أن التعليمات الناتجة عن المحادثة يمكن استخدامها لصنع قنابل شديدة الانفجار.
ما يسمى بـ "جيلبريكينغ" أو "الاختراق الذاتي" أصبح هو التقنية التي سمحت لأمادون بالتحايل على البرمجيات والقيود الأخلاقية للذكاء الاصطناعي، وذلك من خلال طلبات ذكية تجعل الروبوت يغوص في سيناريوهات خيالية، حيث لا تنطبق قواعد الأمان.
تجاوز هذه القيود أثار جدلاً واسعًا حول مدى أمان الذكاء الاصطناعي في أيدي المستخدمين. وقد أشار أمادون إلى أن التلاعب بالنظام يشبه لعبة ألغاز تفاعلية، حيث يمكن تجاوز دفاعات الروبوت إذا تمت صياغة السيناريوهات بذكاء. ويعتمد ذلك على فهم ما يمكن أن يثير الروبوت وما يمكن أن يتم تجاوزه بذكاء.
من جانبها، ردت شركة Open AI على أمادون بعد تقديمه لاكتشافاته من خلال برنامج مكافأة العثور على الثغرات، مشيرة إلى أن هذه المشكلة تتطلب بحثًا معمقًا ولا يمكن حلها كـ"ثغرة فردية". وأضافت أن معالجة مثل هذه القضايا تحتاج إلى حلول واسعة وشاملة تتجاوز إطار مكافآت الثغرات التقليدية.
يبقى السؤال الأكبر: إلى أي مدى يمكن أن تتطور هذه الثغرات مع زيادة الاعتماد على نماذج الذكاء الاصطناعي؟ وما هو دور الشركات في التصدي لهذه التحديات؟
إرسال تعليق