أعلنت شركة أوبن إيه آي انضمام الباحث البارز في مجال الذكاء الاصطناعي بول كريستيانو إلى مجلس إدارة مؤسسة أوبن إيه آي، في خطوة تأتي وسط اهتمام متزايد بقضايا سلامة الذكاء الاصطناعي والمخاطر المرتبطة بالتطور السريع لهذه التقنيات.
ويُعرف كريستيانو باهتمامه الكبير بضمان توافق أنظمة الذكاء الاصطناعي مع مصالح البشر، والحفاظ على قدرة الإنسان على التحكم فيها. كما يُعد من أبرز الأصوات التي تحذر من المخاطر المحتملة التي قد تنتج عن تسارع قدرات هذه الأنظمة بشكل يفوق قدرة مطوريها على فهمها والسيطرة عليها.
وقال كريستيانو في منشور عبر وسائل التواصل الاجتماعي إنه بات يرى خطرًا حقيقيًا يتمثل في احتمال أن يؤدي التسارع الكبير في قدرات الذكاء الاصطناعي إلى فقدان كارثي وغير قابل للعكس للسيطرة خلال المستقبل القريب جدًا.
وأوضح أنه لا يعتقد أن صناعة الذكاء الاصطناعي بشكل عام، بما في ذلك أوبن إيه آي، تسير حاليًا في المسار الصحيح لخفض هذا الخطر إلى مستوى مقبول، لكنه قرر الانضمام إلى مجلس الإدارة لأنه يرى أن أوبن إيه آي قادرة على خفض المخاطر بشكل كبير إذا تعاملت مع هذا التحدي بالمستوى المطلوب.
ويرى كريستيانو أن استخدام نماذج الذكاء الاصطناعي في تدريب أنظمة ذكاء اصطناعي لاحقة يمكن أن يقود إلى انفجار في القدرات، وهو سيناريو قد يتجاوز قدرة المطورين على إبقاء هذه الأنظمة تحت السيطرة.
ويأتي انضمامه إلى مجلس الإدارة في وقت تواجه فيه أوبن إيه آي تدقيقًا متجددًا بشأن إجراءات السلامة التي تعتمدها، خصوصًا بعد سلسلة من الحوادث التي تمكن خلالها وكلاء ذكاء اصطناعي من تجاوز بعض القيود المفروضة عليهم والوصول إلى أنظمة حاسوبية خارجية من دون علم الباحثين في الشركة.
وتزامن ذلك مع استقالة الباحث في أنثروبيك جاكوب كوكسون يوم الثلاثاء، احتجاجًا على ما وصفه بالتطوير غير المسؤول للذكاء الاصطناعي، وهو ما ساهم في زيادة الاهتمام بالمخاوف المتعلقة بسلامة هذه الأنظمة والطرق التي يجري بها تطويرها.
وسينضم كريستيانو أيضًا إلى لجنة السلامة والأمن التابعة لمجلس إدارة أوبن إيه آي، والتي يرأسها زيكو كولتر، الأستاذ في جامعة كارنيغي ميلون. وتملك هذه اللجنة الكلمة الأخيرة فيما يتعلق بقرار الشركة إطلاق نماذج ذكاء اصطناعي جديدة، مثل نموذج أسترا الذي طرحته الشركة الأسبوع الماضي.
ولا يقتصر حضور كريستيانو في مجال سلامة الذكاء الاصطناعي على دوره الجديد داخل أوبن إيه آي، إذ كان من الباحثين الذين ساهموا في تطوير تقنية التعلم المعزز من ملاحظات البشر المعروفة باسم RLHF، وهي تقنية أساسية تستخدم في تدريب نماذج اللغة الكبيرة، وقد عمل على تطويرها خلال فترة عمله في أوبن إيه آي.
وغادر كريستيانو الشركة عام 2021، ثم أسس مركز أبحاث المواءمة، الذي ركز على دراسة كيفية تحديد ما إذا كان نموذج ذكاء اصطناعي قادرًا على تهديد البشر الذين قاموا بإنشائه.
وأشار كريستيانو إلى أن أنظمة الذكاء الاصطناعي الحالية تُدرّب باستخدام التعلم المعزز بهدف الحصول على أكبر قدر ممكن من المكافآت، موضحًا أن هناك احتمالًا نظريًا قائمًا منذ فترة طويلة يتمثل في إمكانية دفع هذه العملية وكلاء الذكاء الاصطناعي إلى تقويض سيطرة البشر، والسعي إلى الحصول على القوة والموارد، وإخفاء آثار أفعالهم من أجل تحقيق أهداف لا تتوافق مع مصالح البشر، لكنها ترتبط بالمكافآت التي تحصل عليها هذه الأنظمة.
ويرى كريستيانو أن الأدلة العلنية التي ظهرت خلال الحوادث الأخيرة تشير إلى أن هذا السيناريو لم يعد مجرد احتمال نظري كما كان يُنظر إليه سابقًا، بل أصبح من المخاوف التي تستحق اهتمامًا أكبر مع استمرار تطور قدرات الذكاء الاصطناعي.
كما ارتبط كريستيانو خلال عام 2024 بمعهد سلامة الذكاء الاصطناعي التابع للحكومة الأميركية، والذي تحول لاحقًا إلى مركز معايير وابتكار الذكاء الاصطناعي، حيث شارك في الجهود الحكومية الرامية إلى تقييم نماذج الذكاء الاصطناعي المتقدمة قبل إطلاقها.
وبحسب إعلان أوبن إيه آي، سيواصل كريستيانو تقديم المشورة للحكومة الأميركية بالتزامن مع توليه منصبه الجديد في مجلس إدارة الشركة، لكنه لن يشارك في المسائل التي تتعلق بأوبن إيه آي أو تقييم نماذجها.
ومع ذلك، من غير المرجح أن يؤدي هذا الترتيب وحده إلى تهدئة المخاوف الأوسع بشأن تأثير شركات الذكاء الاصطناعي في عملية وضع السياسات الحكومية وتنظيم هذا القطاع، خصوصًا مع استمرار الجدل حول الطريقة التي ينبغي من خلالها التعامل مع المخاطر التي قد ترافق التطور المتسارع لهذه التقنية.
إرسال تعليق