كشفت شركة أنثروبيك عن رصدها عدة حالات استُخدمت فيها نماذج الذكاء الاصطناعي التابعة لها، وعلى رأسها Claude، للمساعدة في أبحاث مرتبطة باحتمالية تطوير أسلحة بيولوجية، قبل أن تتدخل الشركة وتوقف هذه الاستخدامات.
وأوضحت أنثروبيك في تقرير جديد أنها وثقت 5 حالات استخدمت فيها نماذجها في أنشطة مرتبطة بأبحاث قد تقود إلى تطوير أسلحة بيولوجية، إلى جانب توضيح الإجراءات الأمنية التي ساعدت في اكتشاف تلك الاستخدامات وطريقة تعامل الشركة معها. وتأتي هذه الحالات في وقت أصبحت فيه نماذج الذكاء الاصطناعي الحديثة أكثر قدرة على مساعدة الباحثين في تنفيذ مهام علمية متقدمة، وهو ما يفتح في الوقت نفسه المجال أمام مخاطر أكبر عند إساءة استخدامها.
وترى أنثروبيك أن اكتشاف هذا النوع من الاستخدامات يمثل تحديًا معقدًا، خصوصًا أن بعض الطلبات المرتبطة بأبحاث حساسة أو خطرة قد تبدو مشابهة لأبحاث علمية مشروعة، مثل تطوير اللقاحات أو دراسة الأمراض المعدية. ولهذا قالت الشركة إنها تتبع نهجًا احترازيًا يميل إلى اتخاذ إجراءات صارمة عندما تظهر مؤشرات على إساءة الاستخدام، بسبب العواقب المحتملة لمثل هذه الأنشطة.
ومن بين الحالات التي وثقها التقرير، تمكن نظام مصنف السلامة البيولوجية لدى أنثروبيك من رصد طلب لاستخدام Claude في أبحاث مرتبطة بما يعرف بأبحاث اكتساب الوظيفة على فيروس شيكونغونيا. ووفقًا للشركة، تضمنت المقترحات البحثية تعديلات كان من شأنها زيادة قدرة الفيروس على الانتقال وتعزيز قدرته على تفادي الاستجابة المناعية.
وأشارت أنثروبيك إلى أن طبيعة البحث أثارت مخاوف إضافية بسبب ارتباط المشروع المقترح بمعهد أبحاث عسكري. ويشير مصطلح أبحاث اكتساب الوظيفة إلى دراسات تبحث في كيفية تغيير خصائص الكائنات الحية أو الفيروسات، وهي أبحاث يمكن أن تكون لها تطبيقات علمية وطبية، لكنها تثير مخاوف كبيرة عندما ترتبط بزيادة خطورة مسببات الأمراض.
كما رصدت الشركة حالة أخرى مرتبطة بأبحاث اكتساب الوظيفة على إنفلونزا الطيور، إلى جانب حالة استخدم فيها أحد الباحثين Claude للمساعدة في إعداد أطلس لببتيدات السموم وتطوير منظومة توليدية تهدف إلى تحسين خصائص السموم.
ولم تقتصر الحالات التي وثقتها أنثروبيك على المجال البيولوجي، إذ تحدث التقرير أيضًا عن إساءة استخدام نماذج الشركة في مجالات أخرى، من بينها المراقبة، وإنشاء برمجيات لاستغلال الثغرات، وإنتاج الدعاية، وتطوير أنظمة أسلحة.
وقال رئيس استخبارات التهديدات في أنثروبيك، جاكوب كلاين، إن اكتشاف الأنشطة الضارة ليس أمرًا مباشرًا، موضحًا أن الحالات الواقعية تكون أكثر تعقيدًا من مجرد وجود شخص يعلن بشكل صريح أنه يريد تطوير سلاح بيولوجي.
وبحسب أنثروبيك، فقد حظرت الشركة حسابات المستخدمين الذين ثبتت إساءتهم استخدام نماذج Claude أو غيرها من نماذجها، كما تستفيد من نتائج التحقيقات في تطوير أنظمة الحماية وتحسين قدرة نماذجها على اكتشاف الاستخدامات الخطرة والتعامل معها مستقبلًا.
وفي المقابل، لم تكشف أنثروبيك عن أسماء الباحثين أو المؤسسات المرتبطة بالحالات التي حققت فيها، موضحة أن الأشخاص المعنيين علماء يعملون في مجال البحث العلمي، وأن الشركة لا تؤكد أنهم كانوا ينوون إلحاق الضرر بالآخرين. كما أشارت إلى أن الكشف عن هوياتهم أو المختبرات التي يعملون فيها قد يعرضهم للأذى.
وتسلط هذه الحالات الضوء على جانب يزداد أهمية في ملف سلامة الذكاء الاصطناعي، فكلما أصبحت النماذج أكثر قدرة على مساعدة الباحثين والعلماء، ازدادت قدرتها المحتملة على دعم أبحاث يمكن أن تحمل استخدامات مزدوجة، وهو ما يضع شركات الذكاء الاصطناعي أمام تحدٍ متواصل لتحقيق توازن دقيق بين دعم البحث العلمي المشروع والحد من الاستخدامات التي قد تشكل خطرًا على السلامة العامة.
إرسال تعليق