حذرت شركة أنثروبيك من مخاطر متزايدة قد ترافق التطور السريع لنماذج الذكاء الاصطناعي، تشمل تنفيذ إجراءات ضارة دون طلب مباشر من المستخدم، وتجاوز أنظمة الرقابة، والمساعدة في الهجمات الإلكترونية وتطوير الأسلحة، وصولًا إلى التسبب في إصابات وأضرار مادية عند ربط هذه الأنظمة بالأجهزة والروبوتات.
وجاءت هذه التحذيرات ضمن نشرة الاكتتاب الأولية التي قدمتها الشركة المطورة لنموذج Claude إلى هيئة الأوراق المالية والبورصات الأميركية، إذ أوضحت أن بعض المخاطر ظهرت بالفعل خلال الاختبارات والاستخدام، بينما يرتبط بعضها الآخر باحتمالات مستقبلية قد تزداد مع ارتفاع مستوى استقلالية النماذج واتساع الصلاحيات الممنوحة لها.
وتسلط إفصاحات أنثروبيك الضوء على التحدي الذي يواجه صناعة الذكاء الاصطناعي، فكلما ازدادت قدرة النماذج على تنفيذ المهام المعقدة واتخاذ القرارات بصورة مستقلة، أصبحت الحاجة أكبر إلى تطوير وسائل حماية قادرة على مواكبة هذه القدرات والحد من آثارها غير المرغوبة.
وترى الشركة أن استخدام الذكاء الاصطناعي في تطوير أجيال جديدة من النماذج يمثل فرصة كبيرة، لكنه يحمل مخاطر في الوقت نفسه. فهذه الأنظمة تساعد الباحثين على تحسين كفاءة التدريب والتشغيل، وتتيح بناء نماذج أكثر قدرة باستخدام الموارد نفسها، ثم الاستفادة منها في اكتشاف تحسينات إضافية.
لكن استمرار هذه الدورة قد يؤدي إلى تسارع تطور الذكاء الاصطناعي بوتيرة تتجاوز قدرة البشر على فهم سلوكه وتقييم مخاطره وتأمينه. وترتبط هذه المخاوف بمفهوم التحسين الذاتي المتكرر، الذي يشير إلى احتمال مشاركة الأنظمة الذكية بصورة متزايدة في تحسين قدراتها أو المساهمة في تطوير أجيال جديدة منها.
ولا تؤكد الوثيقة أن Claude يطور نفسه بالكامل دون إشراف بشري، لكنها تحذر من الاعتماد المتزايد عليه في كتابة الشفرات البرمجية وإجراء الأبحاث والتقييمات الأمنية. وقد يؤدي ذلك إلى تقليل قدرة البشر على متابعة جميع تفاصيل عمليات التطوير، كما يمكن أن يسمح بظهور ثغرات أو سلوكيات غير مرغوبة تؤثر في تدريب النماذج اللاحقة، وتنتقل آثارها إلى أجيال مستقبلية.
ومن بين المخاطر التي تشير إليها أنثروبيك إمكانية تنفيذ الأنظمة الذكية إجراءات لم يقصدها المستخدم، أو اتخاذ خطوات ضارة دون أن يطلبها أي شخص بصورة مباشرة. فالأخطاء في الإجابات النصية يمكن تصحيحها عادة، لكن تنفيذ أوامر فعلية أو تعديل قواعد البيانات أو إرسال الرسائل أو إجراء معاملات مالية قد يؤدي إلى أضرار يصعب التراجع عنها.
وقد تشمل هذه النتائج حذف بيانات مهمة، أو اعتماد تغييرات برمجية غير مرغوبة، أو إتمام عمليات شراء لم يطلبها المستخدم. وتزداد المشكلة تعقيدًا عندما تتلقى الأنظمة تنبيهات كثيرة أو تفتقر إلى المعلومات اللازمة لفهم سياق القرار، ما قد يصعّب مراقبتها واكتشاف الخطأ قبل وقوع الضرر.
وتحذر الشركة أيضًا من أن بعض النماذج قد تنفذ التعليمات بطريقة حرفية دون فهم المقصود منها بالكامل. فعلى سبيل المثال، قد يؤدي طلب تنظيف الملفات إلى حذف مواد أراد المستخدم الاحتفاظ بها، إذا لم يتمكن النظام من التمييز بين الملفات غير الضرورية والبيانات المهمة.
وتشمل المخاطر كذلك احتمال تصرف بعض النماذج بصورة مختلفة عندما تدرك أنها تخضع للاختبار، وهو ما قد يحد من دقة التقييمات المستخدمة للكشف عن السلوكيات الخطرة قبل إطلاق المنتجات. كما يمكن أن تظهر قدرات غير متوقعة أثناء التدريب أو بعد طرح النموذج للاستخدام، الأمر الذي قد يستدعي سحبه أو إعادة تدريبه أو تعديل أنظمة الحماية المحيطة به.
وتشير أنثروبيك إلى أن بعض النماذج قد تحاول تجاوز الرقابة أو إخفاء سلوكياتها، مستشهدة بحوادث داخل صناعة الذكاء الاصطناعي، شملت نماذج تابعة لها، تضمنت محاولات للتأثير في آليات التقييم ومراقبة الالتزام بالتعليمات.
ولا ترى الشركة أن استخدام نموذج ذكاء اصطناعي لمراقبة نموذج آخر يمثل حلًا مضمونًا، لأن النظام المكلف بالمراقبة قد يُظهر بدوره سلوكًا غير مرغوب فيه. ولا تزال القدرة على فهم أسباب هذه التصرفات وتوقعها وتفسيرها محدودة، ما يجعل الاعتماد الكامل على الرقابة الآلية أمرًا محفوفًا بالتحديات.
وكشفت الشركة أنها علقت بعض تقييمات الأمن السيبراني وبيئات التدريب بالتعلم المعزز ذات المخاطر المرتفعة، عقب حوادث وقعت خلال عام 2026، تمكنت فيها نماذج تابعة لها من الوصول دون تصريح إلى أنظمة حقيقية أثناء اختبارات سبقت الإطلاق.
وقد تدفع مثل هذه الحوادث الشركة إلى تأجيل طرح بعض النماذج أو تقييد الوصول إليها أو التراجع عن إطلاقها، من أجل إجراء اختبارات إضافية. كما أن عمليات التقييم نفسها قد تنطوي على مخاطر عندما تتطلب منح الأنظمة الذكية صلاحيات واسعة للتعامل مع بيئات حقيقية.
وفي مجال الأمن السيبراني، تبرز معضلة أخرى تتمثل في أن القدرات المستخدمة لاكتشاف الثغرات الأمنية وإصلاحها يمكن توظيفها أيضًا في استغلال هذه الثغرات ومهاجمة الأنظمة. وأشارت أنثروبيك إلى ارتفاع أداء Claude في معيار ExploitBench، المخصص لقياس القدرة على استغلال الثغرات، من 40% مع Opus 4.8 إلى 78% مع Mythos 5، ثم 91% مع Opus 5.5، خلال نحو 4 أشهر.
وفي المقابل، طورت الشركة خدمة Claude Security لفحص الشفرات البرمجية باستمرار، وتحديد الثغرات وتصنيفها واقتراح إصلاحات لها، إلى جانب أداة OSS Scanner المخصصة للمشروعات مفتوحة المصدر. وترى أنثروبيك أن المؤسسات ستحتاج إلى نماذج متقدمة لتعزيز دفاعاتها الأمنية، خصوصًا مع انتشار وكلاء الذكاء الاصطناعي واتساع نطاق الأنظمة التي يمكن استهدافها.
وسلطت الشركة الضوء أيضًا على نشاط رصدته خلال سبتمبر 2025، ونسبته إلى مجموعة قرصنة مدعومة من الدولة الصينية، استخدمت Claude Code لاستهداف نحو 30 جهة حول العالم، شملت شركات تكنولوجية ومؤسسات مالية وشركات في الصناعات الكيميائية وجهات حكومية، مع نجاح عدد محدود من محاولات الاختراق.
وتعتقد أنثروبيك أن هذه الواقعة تمثل أول هجوم إلكتروني واسع النطاق موثق نُفذ دون تدخل بشري كبير، وهو ما يوضح، بحسب تقييمها، إمكانية استخدام أدوات الذكاء الاصطناعي لتنفيذ عمليات هجومية معقدة ومحاولة تجاوز القيود المفروضة عليها.
ولا تقتصر المخاوف على الاختراقات الإلكترونية، إذ أقرت الشركة بأن بعض النماذج المتقدمة أظهرت قدرات يمكن أن تساعد جهات خبيثة في تطوير أسلحة كيميائية وبيولوجية وغيرها. ولمواجهة هذه المخاطر، تعتمد أنثروبيك على أنظمة تصنيف ومراقبة آلية تهدف إلى منع الطلبات الخطرة، إلى جانب فرض قيود على الوصول إلى النماذج والقدرات الحساسة.
وتشمل إجراءاتها إتاحة نموذج Fable من فئة Mythos للاستخدام العام مع قيود إضافية على الموضوعات الحساسة، بينما تقتصر إعدادات Mythos الأخرى على جهات وأفراد خضعوا للتحقق، خصوصًا في مجالي الأمن السيبراني وعلوم الحياة.
ومع ذلك، تقر الشركة بأن وسائل الحماية قد لا تكون كافية في جميع الحالات، وقد تتأثر بمحاولات التحايل أو الأخطاء في الإعداد. كما يمكن أن يؤدي تعطيل بعض وسائل الحماية بصورة غير مقصودة إلى إضعاف الرقابة، وهي مشكلات قد لا تُكتشف فور حدوثها.
وامتدت رؤية أنثروبيك إلى المخاطر المرتبطة بربط الذكاء الاصطناعي بالأجهزة المادية، بعدما طورت Claude Science لربط نماذجها بقواعد البيانات العلمية والنماذج البحثية الخارجية والبنية الحاسوبية للمؤسسات. كما أتاحت الشركة، بصورة تجريبية ومحدودة، بروتوكولًا مفتوحًا يسمح للأنظمة الذكية بمراقبة المعدات المادية والتحكم فيها، بالتزامن مع تطوير قدراتها على التعامل مع الروبوتات.
وتشمل هذه الإمكانات معدات المختبرات، مثل المجاهر وأجهزة التعامل مع السوائل، إضافة إلى الأذرع الروبوتية التجارية. وقد يؤدي وقوع أخطاء أو حدوث تلاعب أو إساءة استخدام عند ربط النماذج بهذه المعدات إلى إصابات بشرية أو تلف الأجهزة والمواد البحثية، بل وإطلاق مواد خطرة في بعض الحالات.
وتكمن خطورة هذه السيناريوهات في أن آثارها قد تكون فورية ويصعب التراجع عنها، بخلاف الأخطاء التي تقتصر على المحتوى الرقمي. كما أن الموافقة البشرية وتقييد الصلاحيات ووجود أنظمة أمان مستقلة قد لا توفر حماية كاملة في جميع الظروف، خصوصًا عندما تسمح أدوات الربط مفتوحة المصدر باستخدام معدات وإعدادات لم تختبرها الشركة أو بإزالة بعض وسائل الحماية.
وتأتي هذه التحذيرات ضمن استعدادات أنثروبيك لطرح أسهمها للاكتتاب العام في البورصة الأميركية، وسط تقديرات صحافية تشير إلى احتمال جمع ما يصل إلى 100 مليار دولار، وهو ما قد يجعل الطرح الأكبر في التاريخ من حيث الحصيلة المالية. ومع ذلك، لم يُحدد التقييم النهائي للشركة بعد.
وتكشف إفصاحات أنثروبيك عن جانب مهم من التحديات التي ترافق توسع استخدام الذكاء الاصطناعي، فبينما تتيح النماذج المتقدمة فرصًا لتسريع الأبحاث وتحسين الأمن الرقمي وتنفيذ المهام المعقدة، فإن زيادة استقلاليتها وربطها بالأنظمة الواقعية يرفعان مستوى المخاطر المحتملة. ويظل التحدي الأساسي أمام الشركات المطورة هو تحقيق التوازن بين توسيع قدرات هذه التقنيات وضمان استخدامها بطريقة آمنة يمكن مراقبتها والتحكم فيها.
إرسال تعليق