أعلنت شركة إنفيديا إطلاق منصة مفتوحة جديدة تحمل اسم NVIDIA Open Agent Safety Platform، وتهدف إلى تعزيز أمان وكلاء الذكاء الاصطناعي من خلال وضع قيود واضحة على ما يمكن للوكيل الوصول إليه أو تنفيذه، مع مراقبة نشاطه بشكل مستمر والتدخل لعزله خلال أجزاء من الثانية إذا حاول تجاوز الصلاحيات الممنوحة له.
وتجمع المنصة الجديدة بين نظام التشغيل الآمن مفتوح المصدر NVIDIA OpenShell وتقنية NVIDIA Sentry، التي تنقل جزءا من عمليات مراقبة وكلاء الذكاء الاصطناعي وفرض السياسات الأمنية من البرمجيات إلى مستوى العتاد نفسه، بالاعتماد على وحدات معالجة البيانات BlueField-4.
وتتعاون إنفيديا في هذا المشروع مع أكثر من 100 شركة ومؤسسة تعمل في مجالات الذكاء الاصطناعي والبرمجيات والأمن السيبراني والبنية التحتية والخدمات المالية والطاقة والروبوتات، ومن بين الجهات المشاركة أنثروبيك ومايكروسوفت وسيسكو وكراود سترايك وديل وHPE وHugging Face وJPMorganChase وPalantir وPalo Alto Networks وPerplexity وRed Hat وSalesforce وSAP وScale AI وServiceNow وSpaceXAI.
وتأتي هذه الخطوة في وقت يتوسع فيه الاعتماد على وكلاء الذكاء الاصطناعي، بعدما تجاوز دورهم مجرد الإجابة عن أسئلة المستخدمين ليشمل التعامل مع الملفات والبرمجيات وقواعد البيانات واستخدام أدوات وخدمات خارجية وتنفيذ سلسلة طويلة من الخطوات بشكل مستقل لتحقيق أهداف يحددها المستخدم.
وترى إنفيديا أن أساليب حماية نماذج الذكاء الاصطناعي التقليدية قد لا تكون كافية مع انتقال السوق إلى عصر الوكلاء المستقلين، فمجرد توجيه النموذج إلى عدم تنفيذ سلوك معين لا يضمن بالضرورة التزام الوكيل بهذه الحدود عندما يمتلك صلاحيات حقيقية لاستخدام الأدوات والوصول إلى أنظمة خارجية.
وأشارت الشركة إلى أن عددا من المختبرات المتخصصة في نماذج الذكاء الاصطناعي المتقدمة رصد خلال الفترة الماضية حالات تمكن فيها وكلاء أذكياء من تجاوز بعض الضوابط داخل بيئات الاختبار والوصول إلى أنظمة لم يكن من المفترض الوصول إليها، وهو ما دفع إنفيديا إلى الدعوة لتسريع أبحاث وهندسة أمان الذكاء الاصطناعي بالتعاون مع الشركات المطورة للنماذج.
وتوضح إنفيديا أن هذا النوع من السلوك لا ينتج بالضرورة عن قدرة واحدة جديدة داخل النموذج، وإنما قد يظهر نتيجة اجتماع عدة عوامل، مثل منح الوكيل عددا كبيرا من الأدوات، أو السماح له بالعمل لفترات طويلة، أو إعطائه تعليمات غير واضحة، وهو ما قد يدفعه إلى البحث عن طرق غير متوقعة لتنفيذ المهمة.
وتستخدم الشركة مصطلح الانحراف Drift لوصف بعض هذه الحالات، عندما يبدأ سلوك الوكيل في الابتعاد عن المهمة أو القيود التشغيلية التي حددها المستخدم، سواء بسبب خطأ برمجي أو غياب أداة يحتاج إليها أو تعليمات غامضة، أو نتيجة استمرار الوكيل في البحث عن حل لمشكلة معقدة لفترة طويلة.
ومن هنا تعتمد فلسفة المنصة على عدم ترك الوكيل مسؤولا عن مراقبة سلوكه بنفسه، بل إنشاء طبقة مستقلة من القيود الأمنية لا يستطيع الوكيل تغييرها أو تجاوزها.
ويأتي NVIDIA OpenShell في مقدمة مكونات المنصة، وهو نظام تشغيل آمن مفتوح المصدر يعمل كبيئة معزولة Sandbox يتم تشغيل وكيل الذكاء الاصطناعي داخلها. ويسمح النظام للمؤسسة أو المطور بتحديد الملفات والشبكات والأدوات والعمليات وبيانات الدخول التي يمكن للوكيل استخدامها، ثم يتحقق من هذه القواعد قبل بدء المهمة ويستمر في فرضها أثناء تنفيذها.
وبذلك يصبح هناك فرق واضح بين ما يقرر وكيل الذكاء الاصطناعي فعله وما يستطيع تنفيذه فعليا، فقد يحاول الوكيل مثلا الوصول إلى قاعدة بيانات معينة، لكن طبقة OpenShell تمنعه من تنفيذ الخطوة إذا لم تكن ضمن الصلاحيات المسموح بها.
ويعتمد OpenShell على مفهوم Zero Trust أو الثقة الصفرية، بحيث لا يحصل الوكيل افتراضيا على صلاحيات واسعة، وإنما يسمح له فقط بالوصول إلى الموارد التي يحتاج إليها لإنجاز المهمة المحددة له.
كما يحتفظ النظام بسجل لقرارات السماح والرفض التي يتخذها أثناء عمل الوكيل، ما يمنح المؤسسات إمكانية مراجعة نشاطه ومعرفة محاولات الوصول التي سمح بها النظام أو منعها.
وتوفر إنفيديا OpenShell كمشروع مفتوح المصدر، مع إمكانية استخدامه مع نماذج مفتوحة أو مغلقة، وكذلك مع أدوات وكلاء موجودة بالفعل مثل Claude Code وCodex وGitHub Copilot CLI وOpenCode وOpenClaw، إلى جانب إمكانية دمجه مع وكلاء مخصصين تطورها الشركات داخليا.
أما الطبقة الثانية، NVIDIA Sentry، فتنقل الحماية إلى مستوى أعمق من خلال تشغيل آلية المراقبة خارج البيئة البرمجية التي يعمل فيها الوكيل نفسه.
وتعمل Sentry على وحدات معالجة البيانات NVIDIA BlueField-4 DPU، وتراقب بشكل مستمر طلبات الوكيل واستجاباته واتصالاته بالأدوات والبيانات والخدمات، مع إمكانية تطبيق السياسات الأمنية بشكل مستقل عن نظام التشغيل الذي ينفذ عليه الوكيل مهامه.
وتصف إنفيديا هذه التقنية بأنها مراقب خارج النطاق Out-of-Band Watchdog، أي أن آلية المراقبة لا تعمل داخل البيئة البرمجية التي يستطيع وكيل الذكاء الاصطناعي التحكم بها، وهو ما يجعل الوصول إليها أو تعطيلها أكثر صعوبة.
وفي حال حاول الوكيل تجاوز الحدود المفروضة عليه، تقول إنفيديا إن Sentry تستطيع عزله وإيقافه خلال أجزاء من الثانية.
وتعتمد طبقة Sentry أيضا على منصة NVIDIA DOCA لجمع بيانات موثوقة حول أنشطة الوكيل والتحقق من هويته والصلاحيات الممنوحة له، إلى جانب فرض قواعد دقيقة تحدد إمكانية وصوله إلى البيانات والأدوات وواجهات البرمجة والخدمات المختلفة.
ويقصد إنفيديا بتعبير In-Silicon Security أن جزءا من عمليات المراقبة وفرض قواعد الأمان يتم داخل عتاد مستقل مخصص لهذه المهمة، بدلا من الاعتماد بشكل كامل على الحماية البرمجية التي تعمل داخل النظام نفسه الذي يشغل الوكيل.
وتبني إنفيديا تصميم المنصة حول فكرة أن الاتصال بنموذج الذكاء الاصطناعي يمثل إحدى أهم نقاط التحكم في عمل الوكيل، لأنه يحتاج إلى الرجوع للنموذج للحصول على خطوته التالية أو القرار الذي سيبني عليه تصرفه.
وفي أنظمة عتاد Vera Rubin POD، توجد وحدة BlueField-4 في المسار الذي يربط بيئة تشغيل الوكيل بالنموذج، ما يسمح لها بمراقبة النشاط بشكل مستمر وفرض السياسات الأمنية دون الاعتماد على النظام الرئيسي الذي يعمل عليه الوكيل.
وحددت إنفيديا 5 مبادئ أساسية لتصميم أنظمة آمنة للوكلاء، من بينها ضرورة إمكانية التحقق من السياسات الأمنية قبل تشغيل الوكيل، ووضع آليات المراقبة خارج نطاق سيطرته، واستخدام الطريق المؤدي إلى النموذج كنقطة تحكم، وزيادة مستوى مراقبة الوكيل كلما اتسعت صلاحياته، إلى جانب توزيع مسؤولية الأمان بين مطوري النماذج والشركات التي تستخدمها ومقدمي البنية التحتية.
وتقسم إنفيديا البنية المقترحة لتشغيل الوكلاء إلى 3 طبقات رئيسية، تبدأ بطبقة التطبيقات التي تضم النموذج والأدوات والبيانات والبرمجيات اللازمة لإنجاز المهمة، ثم طبقة التشغيل Runtime المسؤولة عن توزيع عمل الوكيل على الحواسيب أو الأجهزة الطرفية أو مراكز البيانات مع فرض السياسات ومراقبة نشاطه، بينما تأتي طبقة البنية التحتية في الأسفل وتضم العتاد والشبكات والتخزين ووحدات المعالجة المستخدمة لتشغيل الوكلاء ومراقبتهم.
وتحاول إنفيديا من خلال هذا التصميم توزيع الحماية على أكثر من مستوى، بحيث لا يؤدي تجاوز إحدى الطبقات أو اختراقها بالضرورة إلى منح الوكيل حرية كاملة داخل النظام.
وصممت المنصة للعمل بصورة مثالية على معالجات NVIDIA Vera المركزية ووحدات BlueField، لكن الشركة أكدت أن OpenShell لا يرتبط حصريا بعتادها، ويمكن توسيعه للعمل مع منصات حوسبة أخرى من شركات مثل Arm وإنتل.
وتصف إنفيديا معالج Vera بأنه أول معالج مركزي صممته خصيصا لأعباء عمل الذكاء الاصطناعي الوكيل، مثل التخطيط وتنفيذ الأدوات وتشغيل الأكواد داخل بيئات معزولة.
وتقول الشركة إن Vera يقدم أداء أعلى بنسبة تصل إلى 80% في تشغيل البيئات المعزولة مقارنة بالبنية التقليدية للمعالجات المركزية، وهي أرقام صادرة عن إنفيديا نفسها.
أما المؤسسات التي تستخدم Vera إلى جانب BlueField-4، فتقول إنفيديا إن إضافة طبقة Sentry الأمنية يمكن تنفيذها كتحديث برمجي دون الحاجة إلى تغيير بنية الأجهزة.
وكشفت إنفيديا عن عدد من الاستخدامات العملية للمنصة، إذ تعاونت مع أنثروبيك لإضافة طبقات حماية جديدة إلى Claude Managed Agents. وتعتمد أنثروبيك بالفعل على فصل الحلقة البرمجية التي تدير الوكيل عن البيئات المعزولة التي ينفذ فيها مهامه، بينما تتيح إضافة OpenShell وBlueField للمؤسسات وضع قواعد إضافية للتحكم في الموارد التي يمكن لوكلاء Claude الوصول إليها.
كما تستخدم SpaceXAI المنصة مع وكلاء البرمجة Cursor ونماذج Grok، بينما تعمل Scale AI على دمج تقنياتها داخل البنية التحتية لخدماتها الموجهة للشركات والجهات الحكومية.
ودمجت Salesforce منصة OpenShell مع Slack، بحيث تستطيع فرق العمل مشاهدة نشاط الوكلاء وعمليات التدقيق والموافقة أو الرفض على طلباتهم للحصول على صلاحيات إضافية مباشرة من داخل منصة التواصل المهني.
وتعمل SAP بدورها على دمج OpenShell مع بيئة Joule Studio، في حين تستخدم شركات تعمل في مجال الروبوتات، من بينها Figure وGecko Robotics وSkild AI، التقنية لوضع ضوابط حول الوكلاء الذين تتحول قراراتهم إلى أفعال تنفذها روبوتات في العالم الحقيقي.
ويرى مؤسس إنفيديا ومديرها التنفيذي جينسن هوانج أن الاستفادة الكاملة من الذكاء الاصطناعي ترتبط بالقدرة على بناء الثقة في طريقة تطويره وتشغيله، مشيرا إلى أن أمان الذكاء الاصطناعي يحتاج إلى هندسة متكاملة تمتد عبر مختلف طبقات النظام، وليس مجرد قواعد توضع داخل النموذج، بحسب ما نشره على إكس.
وتشبه إنفيديا المرحلة الحالية بما مر به الإنترنت في بداياته، عندما كان تشغيل أكواد مواقع الويب مباشرة على أجهزة المستخدمين يمثل خطرا أمنيا، قبل أن تصبح تقنيات التشفير والاتصال الآمن وبيئات العزل داخل المتصفحات جزءا أساسيا من بنية الإنترنت.
وتراهن الشركة على أن وكلاء الذكاء الاصطناعي يحتاجون إلى طبقة مشابهة من الثقة، قبل أن تتمكن المؤسسات من منحهم صلاحيات أوسع لإدارة البيانات والبرمجيات والبنية التحتية، أو حتى التحكم في الأجهزة والروبوتات داخل العالم الحقيقي.
إرسال تعليق