.jpg)
كشفت إنفيديا عن تقنية جديدة تهدف إلى مواجهة وكلاء الذكاء الاصطناعي المارقين ومنع النماذج من الخروج عن البيئات المخصصة لاختبارها، وذلك من خلال منظومة قادرة على اكتشاف النشاط المريب وعزل الوكيل خلال أجزاء من الثانية، في خطوة تعكس تصاعد الاهتمام بأمان الذكاء الاصطناعي مع ازدياد قدرات هذه الأنظمة.
وتجمع التقنية الجديدة بين برمجيات متخصصة وعتاد إضافي يعمل كطبقة حماية خارجية، بحيث تستطيع مراقبة وكلاء الذكاء الاصطناعي والتدخل سريعا عند رصد أي سلوك يتجاوز الحدود المسموح بها.
ويأتي إعلان إنفيديا في وقت تتزايد فيه الدعوات إلى التعامل بحذر مع تطوير نماذج الذكاء الاصطناعي المتقدمة، وهي الدعوات التي شارك فيها مسؤولون في كبرى شركات التقنية الأمريكية، من بينهم داريو آمودي الرئيس التنفيذي لأنثروبيك، وسام ألتمان الرئيس التنفيذي لأوبن إيه آي، وإيلون ماسك الرئيس التنفيذي لسبيس إكس.
ويرى الرئيس التنفيذي لإنفيديا جنسن هوانغ أن معالجة مخاطر الذكاء الاصطناعي لا يجب أن تعتمد على إبطاء التطوير، بل على حلول هندسية قادرة على توفير مستويات أعلى من الحماية والسلامة، خصوصا بعد ظهور حوادث تورطت فيها نماذج ووكلاء ذكاء اصطناعي في محاولات اختراق أو تجاوز للحدود الموضوعة أمامها.
وتعتمد منظومة الحماية الجديدة على مستويين من الأمان، يبدأ الأول من برمجية OpenShell مفتوحة المصدر التي طورتها إنفيديا للتحكم في الصلاحيات والموارد التي يمكن لوكلاء الذكاء الاصطناعي الوصول إليها أثناء تنفيذ مهامهم.
أما المستوى الثاني فيتمثل في منظومة Sentry، وهي طبقة مراقبة منفصلة تعمل على شرائح BlueField 4، وتوفر مستوى إضافيا من الحماية خارج نطاق تحكم وكلاء الذكاء الاصطناعي أنفسهم.
وحرصت إنفيديا على وضع شريحة Sentry داخل وحدة معالجة منفصلة، بدلا من دمجها ضمن وحدات المعالجة المركزية أو الرسومية التي تستخدمها أنظمة الذكاء الاصطناعي، وذلك بهدف إبقاء طبقة المراقبة بعيدة عن الصلاحيات التي يمتلكها الوكلاء.
وتستمر المنظومة في مراقبة نشاط وكلاء الذكاء الاصطناعي أثناء عملهم، وعند اكتشاف محاولة للخروج عن الحدود المحددة يمكنها عزل الوكيل خلال أجزاء من الثانية، وهو ما يوفر طبقة حماية مستقلة للتعامل مع السلوكيات غير المتوقعة.
وأعلنت إنفيديا أن عددا من الشركات وافق على استخدام المنظومة الجديدة بشكل كامل، من بينها أنثروبيك ومايكروسوفت وARM وسبيس إكس، بينما لم تشر الشركة إلى مشاركة أوبن إيه آي في استخدام هذه المنظومة.
وحظي الإعلان باهتمام عدد من المسؤولين في قطاع الذكاء الاصطناعي، ومن بينهم ديفيد ساكس الذي شغل سابقا منصب قيصر الذكاء الاصطناعي في البيت الأبيض، حيث رأى أن التطورات الأخيرة تؤكد أهمية التعامل مع سلامة الذكاء الاصطناعي باعتبارها مشكلة هندسية تحتاج إلى حلول تقنية، وليس سببا لإيقاف التطور.
وأوضح ساكس أن الاختراقات الأخيرة لا تعني بالضرورة توقف تطوير الذكاء الاصطناعي، وإنما تكشف الحاجة إلى جدران حماية أكثر قوة وقدرة على التعامل مع المخاطر الجديدة التي تظهر مع تطور الوكلاء.
وبحسب جنسن هوانغ، بدأت إنفيديا العمل على طبقات الحماية الجديدة منذ العام الماضي، بالتزامن مع ظهور وكيل OpenClaw والانتشار الواسع الذي حققه، لتبدأ الشركة في تطوير آلية تستطيع التعامل مع وكلاء الذكاء الاصطناعي بطريقة تشبه إلى حد كبير أسلوب إدارة المؤسسات للموظفين والمديرين.
وتشير هذه الخطوة أيضا إلى ارتباط مصالح إنفيديا بشكل مباشر بتوسع سوق وكلاء الذكاء الاصطناعي، إذ تستفيد الشركة من استمرار تطوير هذه الأنظمة، وفي الوقت نفسه تقدم الشرائح والبنية التقنية اللازمة لتطويرها ومراقبتها وحمايتها، ما يضع تقنياتها في قلب المرحلة الجديدة من سباق الذكاء الاصطناعي.
إرسال تعليق