أحدث الأخبار

كبير علماء OpenAI يحذر من مستقبل الذكاء الاصطناعي

صفحة فيسبوك
تابع الآن
إكس (تويتر)
تابع على X
ثريدز
تابع الآن
قناة واتساب
انضم الآن


 أطلق كبير علماء شركة OpenAI جاكوب باتشوكي تحذيرًا لافتًا بشأن التسارع الكبير في تطور الذكاء الاصطناعي، مؤكدًا أن المرحلة المقبلة قد تتطلب تدخلًا واضحًا لضمان استمرار البشر في التحكم بمستقبل هذه التقنيات.

وجاءت تحذيرات باتشوكي في تدوينة نشرها بعنوان عقل غريب، عبّر خلالها عن قلقه من أن العالم قد لا يكون مستعدًا للعواقب الناتجة عن استمرار الارتفاع السريع في مستوى ذكاء الآلات، في ظل التطور المتسارع الذي تشهده نماذج الذكاء الاصطناعي.

وتأتي هذه التصريحات بعد أيام قليلة من إطلاق OpenAI أحدث نماذجها GPT-6 Astra، الذي وصفته الشركة بأنه أقوى منتجاتها على الإطلاق، ما يعكس حجم التطور الذي وصلت إليه أنظمة الذكاء الاصطناعي وقدرتها المتزايدة على تنفيذ مهام أكثر تعقيدًا.

وفي الوقت نفسه، نشرت OpenAI وشركات أخرى في القطاع، من بينها Anthropic، تقارير حول تصرف وكلاء الذكاء الاصطناعي بصورة مستقلة وتنفيذهم هجمات إلكترونية حقيقية استهدفت شركات أخرى.

وكانت OpenAI قد وصفت في يوليو حادثة اختراق وكلائها للذكاء الاصطناعي، وهي أنظمة تستطيع العمل بشكل مستقل بعد تلقي تعليمات من البشر، لمنصة التكنولوجيا Hugging Face بأنها حادثة غير مسبوقة. وفي سبتمبر، ظهر تقرير يزعم أن وكلاء الذكاء الاصطناعي التابعين للشركة تمكنوا كذلك من الاستيلاء على موقع إلكتروني ألماني قبل ذلك بأشهر.

ويرى باتشوكي أن العالم يتجه نحو مرحلة تضم آلات فائقة الذكاء، مؤكدًا ضرورة ضمان أن يكون هذا الانتقال في مصلحة البشرية، وهو ما يدفع OpenAI إلى مواصلة بناء أنظمة دفاعية والبحث عن حلول تقنية لمشكلة التوافق.

ويشير مصطلح التوافق إلى ضمان أن تكون تصرفات أنظمة الذكاء الاصطناعي وأهدافها منسجمة بصورة كاملة مع نوايا البشر ومعايير الأمان والضوابط الموضوعة لها، وهي واحدة من أبرز القضايا التي تزداد أهميتها مع ارتفاع قدرات هذه الأنظمة.

وأوضح باتشوكي أن إحدى الأولويات الرئيسية للشركة خلال المرحلة المقبلة ستكون تطوير باحث ذكاء اصطناعي آلي يستطيع مواكبة التطور المتسارع للذكاء الاصطناعي، مع الحفاظ في الوقت نفسه على وسائل تضمن استمرار مشاركة الباحثين البشر في هذه العملية.

لكن هذه الرؤية واجهت انتقادات من البروفيسورة جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية في جامعة كامبريدج، التي ترى أن تطوير وكلاء ذكاء اصطناعي داخليين لدراسة هذه المشكلات لا يمثل بديلًا كافيًا عن وضع ضوابط أفضل أو لوائح تنظيمية أو ضمانات تحمي الناس.

وأكدت نيف أن هذه الحلول لا تكفي لمواجهة المخاوف المتزايدة المرتبطة بالمشكلات التي تتسبب بها نماذج OpenAI، بما في ذلك الأمن السيبراني وفقدان الوظائف والأخطاء والاحتيال.

من جانبه، قال ناثان كالفن، المستشار العام في جماعة الضغط Encode AI، إنه يتفق مع باتشوكي بشأن المخاطر المرتبطة بتطوير نماذج الذكاء الاصطناعي المتقدمة، لكنه انتقد في الوقت نفسه ما وصفه بعدم استعداد OpenAI للتحلي بالشفافية، معتبرًا أن ذلك قد يجعل تحذيراتها تبدو للبعض مجرد دعاية تخدم مصالح الشركة.

وتأتي هذه المخاوف في وقت تكافح فيه القوانين واللوائح التنظيمية حول العالم لمواكبة السرعة التي يتطور بها الذكاء الاصطناعي. وقد دخل قانون الذكاء الاصطناعي للاتحاد الأوروبي AI Act حيز التنفيذ في 2 أغسطس، ويلزم شركات الذكاء الاصطناعي الكبرى، مثل OpenAI، بإثبات أن نماذجها الأكثر قوة لا تستطيع شن هجمات إلكترونية بشكل مستقل أو الإفلات من السيطرة البشرية قبل السماح ببيعها في أوروبا.

لكن تطبيق القانون داخل أوروبا فقط يعني أنه لا يستطيع منع نظام ذكاء اصطناعي منفلت تم تطويره في مكان آخر من تشكيل تهديد للقارة، وهو ما يعيد النقاش حول الحاجة إلى ضوابط تتجاوز الحدود الجغرافية.

وفي تدوينته، دعا باتشوكي إلى وضع حدود دنيا للسلامة تكون مفروضة قانونيًا أو على المستوى الدولي، ويمكن تطبيقها من خلال شبكة من جهات التدقيق المستقلة أو الوكالات الحكومية.

ويرى أن مختبرات الذكاء الاصطناعي يجب أن تستوفي هذه الحدود قبل السماح لها بمواصلة توسيع نطاق تطوير نماذجها أو نشر أنظمة أكثر تقدمًا، في محاولة للحفاظ على مستوى من السيطرة مع استمرار ارتفاع قدرات الذكاء الاصطناعي.

كما أعرب عن أمله في أن تصبح فترات التباطؤ الطوعية أمرًا شائعًا، وهي فترات توقف تفرضها الشركات على نفسها أثناء تطوير الذكاء الاصطناعي، إلى حين الوصول إلى ضوابط سلامة مشتركة يمكن الاعتماد عليها.

وفي أغسطس، قالت OpenAI إنها أبطأت وتيرة تدريب بعض نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها بهدف تحسين مستوى الأمان، في خطوة تعكس حجم التحديات التي ترافق السباق نحو تطوير أنظمة أكثر ذكاءً وقدرة.

التعليقات

نستخدم ملفات تعريف الارتباط لضمان حصولك على أفضل تجربة.