لم تعد نماذج الذكاء الاصطناعي تقتصر على كتابة التقارير وتحليل البيانات أو تشغيل الأدوات، فمع ظهور وكلاء قادرين على الوصول إلى أنظمة الشركات وتنفيذ إجراءات فعلية، بدأت المخاطر تأخذ شكلًا مختلفًا وأكثر تعقيدًا، إذ إن المؤسسة التي تمنح وكيلًا ذكيًا صلاحية الوصول إلى ملفات حساسة أو برمجيات داخلية تحتاج إلى معرفة حدود ما يستطيع فعله، وما الذي قد يحدث إذا أخطأ في تنفيذ مهمة أو تعرض للتلاعب.
وفي هذا السياق، بدأت شركة إنفيديا التحرك بصورة أكثر مباشرة نحو أمن الذكاء الاصطناعي، بالتزامن مع دفعها باتجاه انتشار النماذج مفتوحة الأوزان ووكلاء الذكاء الاصطناعي، في خطوة تعكس أهمية بناء أنظمة يمكن الوثوق بها قبل منحها صلاحيات حقيقية داخل المؤسسات.
ووفقًا لتقرير نشره موقع بيزنس إنسايدر، تعمل إنفيديا على تشكيل فريق جديد متخصص في هندسة سلامة وأمن الذكاء الاصطناعي، وتكشف إعلانات التوظيف عن بحث الشركة عن مهندس بارز يتولى دور القائد التقني المؤسس للفريق، إلى جانب مهندس متخصص في أبحاث الأمن، ومهندس للتقييمات، ومدير كبير.
ومن المنتظر أن يتولى الفريق مجموعة من المهام المرتبطة بأمان أنظمة الذكاء الاصطناعي، من بينها تقييم وكلاء الذكاء الاصطناعي قبل نشرهم، إلى جانب تطوير أدوات تعتمد على الذكاء الاصطناعي للمساعدة في اكتشاف الثغرات البرمجية ومعالجتها، كما تربط إعلانات الوظائف بين الفريق وتوجه إنفيديا لدعم النماذج مفتوحة الأوزان، وتعزيز الشفافية وإجراء عمليات فحص علمية واسعة.
ويأتي اهتمام إنفيديا بأمن الذكاء الاصطناعي في وقت يتوسع فيه سوق هذه التقنيات بسرعة، فكلما أصبح تشغيل النماذج المفتوحة أكثر سهولة، زاد عدد الشركات والمطورين الذين يحتاجون إلى المعالجات والبنية الحوسبية التي توفرها إنفيديا، لكن هذا التوسع يفرض في المقابل تحديًا جديدًا يتعلق بمدى استعداد المؤسسات لمنح وكلاء الذكاء الاصطناعي صلاحيات فعلية داخل أنظمتها.
وتزداد أهمية هذا السؤال مع انتقال الذكاء الاصطناعي من مجرد أداة تقدم الإجابات إلى برامج قادرة على الوصول إلى البيانات وتنفيذ مهام متعددة نيابة عن الموظفين، وهو ما يجعل الخطأ أو إساءة الاستخدام أكثر تأثيرًا عندما يمتلك النظام صلاحيات واسعة داخل بيئة العمل.
وبالتالي، قد تتحول القدرة على إثبات سلامة وكيل الذكاء الاصطناعي والتأكد من التزامه بحدود محددة إلى عامل أساسي في قرار الشركات بشأن تبني هذه الأنظمة، فالثقة في الوكيل قد لا تكون مجرد ميزة إضافية مستقبلًا، بل شرطًا مهمًا قبل السماح له بالتعامل مع البيانات والأنظمة الحساسة.
وتشير خطوة إنفيديا إلى أن المنافسة في سوق الذكاء الاصطناعي لا تدور فقط حول قوة النماذج وسرعتها، بل بدأت تمتد أيضًا إلى قدرتها على العمل بأمان داخل البيئات الحقيقية، خصوصًا مع اقتراب وكلاء الذكاء الاصطناعي من أداء أدوار كانت تتطلب تدخلًا بشريًا مباشرًا.
إرسال تعليق