أعلنت شركة جوجل عن برنامج مكافآت جديد يركز بالكامل على الذكاء الاصطناعي، داعيةً باحثي الأمن والمخترقين الأخلاقيين للبحث عن الثغرات في أنظمتها، مع تقديم مكافآت تصل إلى ثلاثين ألف دولار حسب خطورة الثغرة.
تركز المبادرة الجديدة على التهديدات الأمنية الخاصة بالذكاء الاصطناعي، التي تختلف عن الثغرات التقليدية، وتسعى جوجل من خلال هذا البرنامج إلى مساعدة الخبراء في اكتشاف الأفعال غير القانونية، مثل تسريب البيانات الشخصية، أو تنفيذ أوامر خاطئة، أو السماح للمهاجمين بالتلاعب بالأجهزة المتصلة.
ووضحت جوجل أنواع الثغرات التي تريد الكشف عنها، مثل إمكانية خداع أجهزة جوجل هوم لفتح باب ذكي، أو استغلال أوامر مخفية لتمكين جيميل من إرسال معلومات شخصية إلى جهات خارجية، وهذه تعتبر من الثغرات الأمنية عالية الخطورة التي يجب اكتشافها قبل أن تُستغل في الواقع.
وأشارت الشركة إلى أن مجرد جعل نماذج الذكاء الاصطناعي مثل جيميني تُصاب بالهلوسة لا يُعد خللًا، بل يجب الإبلاغ عن المشكلات المتعلقة بالمحتوى الذي تنتجه هذه النماذج مثل خطاب الكراهية أو المواد المحمية بحقوق الطبع والنشر باستخدام أدوات التعليقات داخل المنتج، بما يساعد فرق سلامة الذكاء الاصطناعي على تحسين النماذج وإعادة تدريبها بطريقة أكثر دقة.
وتخصص جوجل أكبر المكافآت لاكتشاف الثغرات في منتجاتها الرئيسية مثل البحث وجيميني وجيميل ودرايف، وقد تصل المكافآت إلى ثلاثين ألف دولار إذا تميز التقرير بجودته وأصالته، فيما تُمنح مكافآت أقل لاكتشاف الثغرات في أدوات أخرى مثل NotebookLM أو مساعد الذكاء الاصطناعي التجريبي Jules.
وأكدت جوجل أن هذه الخطوة تأتي ضمن جهودها لتعزيز أمن الذكاء الاصطناعي في ظل الاعتماد المتزايد على هذه الأنظمة في منتجاتها، مشيرة إلى أن الباحثين قد حصلوا بالفعل على أكثر من أربعمئة وثلاثين ألف دولار خلال العامين الماضيين من خلال اكتشاف المخاطر قبل إطلاق البرنامج الرسمي.
كما أطلقت جوجل أداة جديدة باسم CodeMender، وهي أداة ذكاء اصطناعي مصممة للكشف عن الثغرات وإصلاحها تلقائيًا في البرامج مفتوحة المصدر، وساهمت حتى الآن في تصحيح أكثر من سبعين مشكلة مؤكدة بعد مراجعتها من قبل خبراء بشريين، مؤكدة قدرة الذكاء الاصطناعي على تعزيز أمان التكنولوجيا بشكل فعال.
إرسال تعليق