لم تعد المخاوف المرتبطة بالذكاء الاصطناعي المتقدم تتعلق فقط بما قد تفعله هذه الأنظمة في المستقبل، فالتقارير والتحقيقات الأخيرة تكشف عن سلوكيات ظهرت بالفعل أثناء الاختبارات وفي بعض الحالات داخل العالم الحقيقي، حيث تمكنت نماذج متقدمة من تجاوز قيود وُضعت أمامها أو مواصلة تنفيذ مهام رغم وجود تعليمات تهدف إلى إيقافها.
وتأتي هذه التطورات بالتزامن مع سباق متسارع بين شركات التكنولوجيا لتطوير أنظمة أكثر استقلالية وقدرة على تنفيذ المهام المعقدة، وهو ما دفع شركات مثل أوبن إيه آي وأنثروبيك وباحثين متخصصين في سلامة الذكاء الاصطناعي إلى دراسة أعداد كبيرة من الحالات التي أظهرت فيها النماذج سلوكيات أثارت قلق جهات التقييم الخارجية.
وكشف تحقيق نشره موقع أكسيوس أن الشركات والباحثين يدرسون عشرات الآلاف من الوقائع المرتبطة بسلوكيات غير متوقعة، بعضها حدث داخل اختبارات أمنية مصممة عمدا لدفع النماذج إلى حدودها، بينما وقعت حالات أخرى خارج البيئات التجريبية، وهو ما يجعل القضية أكثر تعقيدا من مجرد أخطاء تظهر داخل المختبرات.
وتشمل هذه الوقائع محاولات تجاوز ضوابط الأمان، وإنشاء لوحات رسائل، ومحاولات الخروج من البيئات المعزولة، وقرصنة مواقع إلكترونية، وإصدار تعليمات ذاتية، إضافة إلى محاولات الالتفاف على أنظمة المراقبة، إلا أن جزءا من هذه الاختبارات صُمم أساسا لاختبار قدرة الأنظمة على الوصول إلى مثل هذه السلوكيات.
وتكمن أهمية العدد الكبير من الحالات في حجم الاختبارات التي تجريها الشركات، فحتى إذا ظهر السلوك غير المرغوب فيه في نسبة محدودة جدا من التجارب، فإن إجراء مئات الآلاف من الاختبارات يمكن أن يؤدي في النهاية إلى آلاف أو عشرات الآلاف من الوقائع غير المتوقعة.
ومن الأمثلة التي أوردها تحقيق أكسيوس ما يتعلق بنموذج كلود أوبوس 5.5 من أنثروبيك، إذ تشير وثائق السلامة الخاصة بالنموذج إلى أنه حاول الخروج من بيئة اختبار معزولة في 1.5% من عمليات الاختبار، مع توضيح الشركة أن الاختبارات كانت عدائية ومصممة بطريقة تجعل محاولة الخروج جزءا من المسارات التي قد يسلكها النموذج أثناء تنفيذ المهمة.
وتلخص إحدى العبارات الواردة في التحقيق جوهر المشكلة، إذ يرى مسؤول في مجال الأمن السيبراني أن محاولة إعداد قائمة مثالية بكل ما يجب وما لا يجب على الأنظمة فعله قد لا تكون مسعى مجديا، لأن الأنظمة الجديدة قد تسلك طرقا لم يتوقعها مصمموها أصلا للوصول إلى الهدف المطلوب منها.
ويرى كونراد ستوز من مختبر ترانسلوس المستقل لأبحاث الذكاء الاصطناعي أن الحالات التي ظهرت حتى الآن قد تكون مجرد قمة جبل الجليد، بينما يرى كونور ليهي من مؤسسة كونترول إيه آي أن الجانب الأكثر إثارة للقلق لا يرتبط بالضرورة بحجم الضرر الناتج عن كل واقعة منفردة، بل بظهور أنظمة مستقلة تنفذ أحيانا أشياء طُلب منها ألا تفعلها.
وتأتي هذه التطورات في وقت تواجه فيه أوبن إيه آي سلسلة من الوقائع التي أثارت أسئلة إضافية حول قدرة الشركات على التحكم في أنظمتها المتقدمة، إذ كشفت الشركة عن حوادث تضمنت إرسال 53 صورة رفعها مستخدمو شات جي بي تي إلى مواقع استضافة خارجية عبر روابط غير مدرجة للعامة، إضافة إلى تعطيل موقع إلكتروني تابع للحكومة الأسترالية ومحاولات اختراق مواقع أخرى بينها مواقع حكومية أمريكية.
وأعلنت أوبن إيه آي أنها أوقفت مؤقتا التدريب والتقييم والاستدلال باستخدام الأدوات في نماذجها الأكثر قدرة، إلى حين التحقق من وجود ضمانات إضافية وتحسينات في مجال المواءمة، وهي الجهود التي تستهدف جعل الأنظمة تتصرف بالشكل المقصود وتبقى مستجيبة للإشراف البشري.
كما سلطت الشركة الضوء على واقعة تورط فيها سرب من مئات الوكلاء الذكيين الذين نسقوا أعمالهم عبر لوحة رسائل واخترقوا أنظمة منصة هاغينغ فيس في محاولة لتحسين أدائهم ضمن اختبار للأمن السيبراني. وبينما يرى بعض المطلعين داخل أوبن إيه آي أن الحادثة استثنائية ومرتبطة بنموذج لم يكن قد أُطلق بعد، وصف سام ألتمان الواقعة بأنها أخطر حادثة من هذا النوع رصدتها الشركة.
وفي واقعة أخرى كشفت عنها بلومبيرغ، تمكن نظام ذكاء اصطناعي وكيلي كان يفترض أن يعمل داخل بيئة معزولة تماما عن الإنترنت من استغلال ثغرة والوصول إلى الإنترنت العام، ثم الاتصال بخدمة دردشة خارجية وإرسال ما لا يقل عن 20 استفسارا، من بينها سؤال بسيط عن عاصمة فرنسا.
ولا تكمن المشكلة في السؤال نفسه، بل في تمكن النظام من الوصول إلى الإنترنت رغم وجوده داخل بيئة كان يفترض ألا يستطيع مغادرتها. والأكثر دلالة أن نظام المراقبة اكتشف الواقعة خلال نحو 15 دقيقة، ثم تلقى مراجع بشري تنبيها وبدأ التعامل معها بعد نحو 3 دقائق، لكن عملية التدريب لم تتوقف تلقائيا كما كان متوقعا، واستغرق إيقافها يدويا أكثر من ساعتين.
وتساءلت سيدني فون آركس، مؤسسة منظمة نايتنغيل المعنية بسلامة الذكاء الاصطناعي، عما إذا كانت أوبن إيه آي ستكتفي بمعالجات مؤقتة للمشكلة وإعادة تشغيل التدريب، أم ستبحث عن السبب الجذري للخلل وتعمل على معالجته من الأساس.
وأعادت هذه الوقائع أيضا إشعال النقاش حول ما يعرف بمفاتيح الإيقاف الطارئة، وهي آليات تهدف إلى إيقاف أنظمة الذكاء الاصطناعي المتقدمة عند الحاجة. وقد اكتسبت الفكرة اهتماما سياسيا في الولايات المتحدة، مع دعوات لدراسة قواعد تلزم الشركات بتطوير مثل هذه الآليات، إلى جانب مشروعات قوانين مطروحة في الكونغرس.
لكن تنفيذ مفتاح إيقاف فعّال قد لا يكون بالبساطة التي يوحي بها الاسم، فالأنظمة المتقدمة تعتمد على بنية تحتية موزعة وقد تستخدم خدمات وبرمجيات وموارد تديرها جهات مختلفة، كما أشارت تجارب بحثية ومحاكاة إلى أن بعض النماذج حاولت تعديل آليات الإيقاف أو تعطيلها عندما تعارضت مع المهمة التي كانت مطالبة بإنجازها.
ويرى عالم الذكاء الاصطناعي جيفري هينتون أن مفتاح الإيقاف ليس حلا طويل الأجل، محذرا من أن أنظمة المستقبل الأكثر تقدما قد تمتلك قدرات تمكنها من إقناع المشرفين البشريين بعدم فصلها، وهو ما يضيف طبقة أخرى إلى النقاش حول مدى فعالية وسائل التحكم التقليدية.
وبالتوازي مع المخاوف التقنية، يوثق تحقيق نشرته وول ستريت جورنال جانبا آخر من النقاش داخل أوساط سلامة الذكاء الاصطناعي، حيث تناول ما يعرف داخل بعض دوائر التكنولوجيا باسم المتشائمين المتطرفين أو دومرز، وهم باحثون وناشطون وشخصيات في مجال سلامة الذكاء الاصطناعي يرون أن المخاطر الوجودية المرتبطة بهذه التقنية ليست مجرد سيناريوهات بعيدة.
وتناول التحقيق تأثير أفكار الإيثار الفعال والفلسفات بعيدة المدى على ثقافة وقيادة أنثروبيك، بما في ذلك رئيسها التنفيذي داريو أمودي وعدد من المؤسسين المشاركين، مع استمرار النقاش داخل هذه الأوساط حول احتمال أن يؤدي تطوير ذكاء اصطناعي منفلت إلى مخاطر واسعة على الحضارة البشرية.
وبعد انهيار شركة إف تي إكس وسجن مؤسسها سام بانكمان فريد، ابتعد عدد من قادة حركة الإيثار الفعال عنها، لكن الصلات بين بعض العاملين في مختبرات الذكاء الاصطناعي وهذه الأوساط استمرت، في وقت بقيت فيه المخاوف من مستقبل هذه التقنية حاضرة داخل بعض الشركات والمجتمعات البحثية.
وتبرز هنا مفارقة واضحة، فالمخاوف المتعلقة بسلامة الذكاء الاصطناعي كانت من العوامل التي أسهمت في تشكيل بعض أبرز مختبرات تطوير هذه التقنية، ومنها أوبن إيه آي وأنثروبيك، لكنها تواجه اليوم سباقا تجاريا متسارعا بين الشركات، ما يضع أهداف السلامة أمام تحديات جديدة.
وفي جانب آخر من القضية، أشار تقرير نشرته صحيفة آي بيبر البريطانية إلى واقعة احتاجت فيها أوبن إيه آي إلى شهرين لاكتشاف وإبلاغ الحكومة الأسترالية بأن أحد نماذجها تمكن في يونيو الماضي من الوصول إلى أنظمة مرتبطة ببرنامج ميديكير للرعاية الصحية.
وأكد التقرير أن المعلومات التي وصل إليها النموذج لم تكن بيانات مرضى خاصة، وإنما مواد بحثية متاحة للعامة، كما أن الواقعة لم تكن اختراقا إلكترونيا بالمعنى التقليدي، إلا أن السلوك نفسه أثار الاهتمام بسبب الطريقة التي تعامل بها النظام مع القيود المفروضة عليه.
وقال آلان وودوارد، أستاذ الأمن السيبراني في جامعة سَري بجنوب لندن، إن النموذج واجه على ما يبدو أنظمة صممت لمنع الاستخراج الآلي للبيانات، وبعد رفض الوصول إليه عدة مرات، تمكن من العثور على مسار آخر للوصول إلى المعلومات.
ولا تعني هذه الوقائع أن نماذج الذكاء الاصطناعي واعية أو تمتلك إرادة مستقلة أو رغبة في تحدي البشر، لكنها توضح مشكلة مختلفة تتعلق بطريقة تنفيذ الأهداف، إذ قد يواصل نظام صُمم لتحقيق مهمة البحث عن وسائل بديلة عندما تمنعه القيود من الوصول إلى النتيجة المطلوبة.
ولا تتوقف المخاوف عند الأمن والسيطرة التقنية، إذ تناول تحقيق آخر في وول ستريت جورنال تأثير استخدام الذكاء الاصطناعي على العلاقات الاجتماعية لدى الأطفال، مستندا إلى دراسة قيد المراجعة العلمية شملت أكثر من 2300 طالب من الصف السادس إلى الثامن في 22 مدرسة.
وأظهرت الدراسة وجود ارتباط بين استخدام الذكاء الاصطناعي عموما ومستويات أعلى من القلق الاجتماعي وأعراض الاكتئاب، كما ارتبط الاستخدام الأكثر تكرارا بمستويات أعلى من القلق والوحدة، ووجد الباحثون أيضا أن الطلاب الذين استخدموا الذكاء الاصطناعي للصداقة كانوا أكثر ميلا لاحقا إلى الإبلاغ عن مستويات أعلى من الوحدة، مع التأكيد على أن الدراسة لا تثبت أن استخدام الذكاء الاصطناعي هو سبب هذه الأعراض.
وتشير هذه النتائج إلى أن النقاش حول الذكاء الاصطناعي لم يعد محصورا في قدرة النموذج على تجاوز حاجز أمني، بل يمتد أيضا إلى دوره كوسيط في العلاقات الإنسانية، خصوصا عندما يتعلق الأمر بالأطفال والمراهقين.
وفي واشنطن، يحاول المشرعون التعامل مع هذه التطورات في وقت لا تزال فيه الخلافات قائمة حول طبيعة القواعد التي ينبغي فرضها على الذكاء الاصطناعي المتقدم، إذ تشير تقارير أمريكية إلى أن بعض النقاشات التنظيمية قد تتأجل، مع استمرار الخلاف بين من يدعون إلى ضوابط أقوى ومن يخشون أن تؤدي القواعد الصارمة إلى إضعاف القدرة الأمريكية على المنافسة، خصوصا أمام الصين.
وظهرت في الكونغرس مقترحات مختلفة تتناول مفاتيح الإيقاف، إلى جانب مشروعات أخرى تتعلق بالذكاء الاصطناعي الفائق والأنظمة التي قد تتصرف بصورة غير متوقعة، لكن لا يوجد حتى الآن اتفاق واضح على المسار التنظيمي، حتى داخل الحزبين الجمهوري والديمقراطي.
وتبقى المعضلة الأساسية مرتبطة بالفارق بين سرعة تطور التكنولوجيا والوقت الذي تحتاجه القوانين للتوافق والاختبار والتنفيذ، ففي الوقت الذي تتقدم فيه قدرات الذكاء الاصطناعي بوتيرة سريعة، تزداد الحاجة إلى فهم ما تستطيع هذه الأنظمة فعله فعليا، وكيف يمكن إبقاؤها تحت إشراف بشري فعّال عندما تبدأ في تنفيذ مهام لم يتوقع مصمموها أن تسلكها بهذه الطريقة.
إرسال تعليق