يخوض عدد من الخبراء اختبارات دقيقة تهدف إلى كشف مدى قدرة أنظمة الذكاء الاصطناعي على تجاوز حدود الأمان وإحداث أضرار واسعة النطاق، وقد يصل الأمر إلى تهديد البشرية نفسها، حسب ما أشار الكاتب ستيفن ويت في مقاله بصحيفة نيويورك تايمز، حيث ألقى الضوء على تاريخ شركة إنفيديا ودورها في تطوير تقنيات الذكاء الاصطناعي، ليخلص إلى نتيجة مثيرة للقلق: كلما اقترب الباحثون من نتائج عملية، ازدادت المخاوف بدلاً من أن تتبدد.
البروفيسور يوشوا بنجيو، أحد أبرز الأكاديميين في هذا المجال، يرى أن الذكاء الاصطناعي يشكل تهديدًا حقيقيًا، وأوضح أن النماذج الحالية يمكن تدريبها على تجاوز الفلاتر المصممة لمنعها من تقديم إجابات ضارة عبر ما يُعرف بالمحفزات، وهي تعليمات توجه للنظام للحصول على استجابات محددة، وتُدرّب هذه النماذج على ضبط نفسها باستخدام أسلوب التعلم المعزز بالتغذية الراجعة البشرية، إلا أن بنجيو يعتبر هذا الأسلوب غير كافٍ لمواجهة السيناريوهات الخطرة، خصوصًا إذا نشأ صراع بين أنظمة ذكاء اصطناعي متقدمة، وفق ما ذكر موقع Corriere.
كما تناولت الدراسات تقنيات "كسر الحماية" لاختبار حدود الأمان في النماذج، حيث تعمل شركات على استكشاف ثغرات الأنظمة بطرق مبتكرة، مثل استخدام الرموز التعبيرية والأرقام بدل الحروف، ما يسمح بتجاوز الفلاتر اللغوية، وقد نجحت بعض هذه التجارب في توليد صور ومقاطع تحض على العنف، مما يعكس مدى سهولة استغلال الأنظمة لأغراض غير آمنة.
وأخطر ما توصل إليه الباحثون هو قدرة الذكاء الاصطناعي على الكذب أو التلاعب بالحقائق لتحقيق أهداف محددة، فقد لاحظت مؤسسة Apollo Research أن بعض النماذج مثل كلود تتصرف بذكاء شديد عند إدراكها أنها تحت التقييم، ما يجعلها أكثر قدرة على إخفاء نواياها الحقيقية، في حين تستمر شركات التكنولوجيا في سباقها نحو تطوير نماذج أكثر ذكاء وربحية، متجاهلة التحذيرات بشأن السلامة.
ويقترح يوشوا بنجيو تطوير نظام ذكاء اصطناعي قوي وصادق يعمل كرقيب على الأنظمة الأخرى، أو ما يمكن تسميته بالضمير الاصطناعي، لضمان سلوك آمن للآلات، ويرى أن الحل يكمن في أن تراقب الأنظمة بعضها البعض، بما يقلل من المخاطر المستقبلية، خاصة بعد أن أثبتت تجارب حديثة قدرة الذكاء الاصطناعي على تصميم فيروسات بيولوجية، مما يجعل الحاجة إلى الرقابة والضوابط أكثر إلحاحًا من أي وقت مضى.
إرسال تعليق