تصاعدت خلال الأيام الماضية التحذيرات من المخاطر المحتملة لوصول الذكاء الاصطناعي إلى مرحلة الذكاء الاصطناعي الفائق ASI، وسط مخاوف من أن تتجاوز قدراته حدود السيطرة البشرية، وتصل في أسوأ السيناريوهات إلى نتائج كارثية تهدد مستقبل البشرية.
وخلال جلسة في البرلمان البريطاني، حذر مسؤولون وخبراء من أن الذكاء الاصطناعي الفائق قد يمثل خطرًا يماثل خطر الأسلحة النووية، وربما يتجاوزه. وقال ديس براون، وزير الدفاع البريطاني الأسبق، إنه كان يعتبر خلال توليه منصبه أن الحرب النووية هي أكبر تهديد يواجه البشرية، لكنه أصبح يرى اليوم أن الذكاء الاصطناعي الفائق قد يشكل تهديدًا بالحجم نفسه وربما أكبر.
من جانبه، حذر البروفيسور ستيوارت راسل، عالم الحاسوب في جامعة كاليفورنيا في بيركلي، من إمكانية وقوع كارثة بحجم كارثة تشيرنوبل، بل وطرح احتمال حدوث سيناريو أكثر خطورة تفقد فيه البشرية السيطرة على أنظمة الذكاء الاصطناعي بشكل لا يمكن عكسه.
وجاءت هذه التحذيرات خلال جلسة نظمها تحالف Control AI في لندن، وهي جماعة ضغط تدعو إلى وضع قواعد دولية لتنظيم الذكاء الاصطناعي، كما تدعم مشروع قانون يناقش في البرلمان البريطاني ويهدف إلى حظر تطوير الذكاء الاصطناعي الفائق.
وأثار إيفان هوبينغر، المسؤول عن أبحاث المواءمة في شركة أنثروبيك، جدلًا واسعًا بعدما قال إنه يعتقد بوجود احتمال يتجاوز 10% لأن تؤدي هذه التكنولوجيا إلى قتل جميع البشر خلال العقد المقبل.
وجاء تصريح هوبينغر بعد استقالة الباحث جاكوب كوكسون، البالغ من العمر 28 عامًا، من أنثروبيك، بعدما عمل سابقًا في OpenAI، حيث قال إن الشركتين لا تتصرفان بمسؤولية وإنهما تخوضان مخاطرة بحياة البشر.
وأشار كوكسون إلى أن مخاطر الذكاء الاصطناعي معروفة جيدًا داخل أنثروبيك، لكنه اتهم الشركات بأنها عالقة في سباق للوصول إلى الذكاء الاصطناعي الفائق قبل المنافسين. ومع ذلك، أبدى تفاؤله بإمكانية تنسيق المختبرات الأمريكية الكبرى جهودها بهدف إبطاء وتيرة هذا السباق.
ولا يوجد اتفاق واضح بشأن الموعد الذي قد يصل فيه العالم إلى الذكاء الاصطناعي الفائق، إذ يرى بعض الخبراء أن ذلك قد يحدث خلال عدة سنوات، بينما يتوقع آخرون أن يحتاج الأمر إلى أكثر من عقد.
وفي بريطانيا، دعا النائب العمالي دارين جونز إلى إبرام معاهدة متعددة الأطراف للتطوير المنظم والآمن للذكاء الفائق، مؤكدًا أن الهدف لا يتمثل في إيقاف الابتكار أو البحث العلمي، وإنما في اعتماد نهج يجعل السلامة أولوية مع استمرار التطور السريع لهذه التكنولوجيا.
وقال جونز إن النقاش الحالي يتحرك بين تحذيرات من نهاية البشرية من جهة، واعتبار هذه المخاوف مجرد ضجة تسويقية من جهة أخرى، لكنه شدد على ضرورة أن تتحرك الحكومات الآن.
كما أثارت الحكومة البريطانية مخاوف بشأن عدم تقديم أنثروبيك نموذجها الأحدث Mythos 5.1 إلى معهد أمن الذكاء الاصطناعي البريطاني لإجراء اختبارات ما قبل الإطلاق. وأكد مكتب مجلس الوزراء أن عددًا محدودًا فقط من المؤسسات الأمريكية حصل على إمكانية الوصول إلى النموذج، مشيرًا في الوقت نفسه إلى استمرار التعاون بين معهد أمن الذكاء الاصطناعي والشركات العاملة في هذا القطاع، ومنها أنثروبيك.
وفي الولايات المتحدة، صعّد السيناتور بيرني ساندرز حملته المطالبة بتنظيم الذكاء الاصطناعي، داعيًا الكونغرس إلى التحرك. واستند ساندرز إلى استطلاعات تشير إلى أن 81% من الأمريكيين يرون ضرورة اتخاذ السياسيين إجراءات بشأن هذه التكنولوجيا.
وقال ساندرز إن مستقبل البشرية واقتصادها وبيئتها وديمقراطيتها وخصوصيتها لا ينبغي أن تحدده حفنة من الأشخاص الجشعين دون مشاركة الجمهور في هذه القرارات.
ورغم هذه التحذيرات، يتبنى عدد من الخبراء موقفًا أكثر تحفظًا، محذرين من الانجراف وراء السيناريوهات الكارثية والمبالغة في تقدير قدرات الذكاء الاصطناعي الحالية.
وقال الدكتور أندرو روجويفسكي من معهد ساري للذكاء الاصطناعي إن الأنظمة الحالية لا تزال بعيدة عن امتلاك المرونة التي تتمتع بها القدرات البشرية، فضلًا عن قدرة البشر على العمل بشكل جماعي. وتوقع ما وصفه بـالخيبة الكبرى، إذ قد يتضح أن الذكاء الاصطناعي المتقدم مكلف للغاية أو غير مفيد بما يكفي للاستمرار بالشكل الذي يتوقعه البعض.
أما ديفيد باربر، مدير مختبر Sofair لأبحاث الذكاء الاصطناعي، فحذر من النظر إلى التكنولوجيا باعتبارها تهديدًا يجب التخلص منه، مؤكدًا أنها أصبحت شديدة الأهمية والفائدة، لكنه أشار إلى أن منحها وصولًا غير مقيد إلى الإنترنت والأنظمة المختلفة قد يؤدي إلى مشكلات تحتاج إلى مزيد من السيطرة والرقابة.
بدورها، قالت ساندرا فاختر، الأستاذة في معهد أكسفورد للإنترنت، إنها لا تؤمن بالسيناريوهات الكارثية، لكنها شددت على وجود مخاطر حقيقية وملحّة مرتبطة بالذكاء الاصطناعي، من بينها تأثيره البيئي، وانتشار المعلومات المضللة، وتأثيره في الوظائف.
وأكدت فاختر أن هذه القضايا حقيقية وملحّة وتحتاج إلى معالجة الآن، محذرة من أن التركيز على سيناريوهات نهاية العالم قد يصرف الانتباه عن المشكلات الفعلية التي يفرضها الذكاء الاصطناعي في الوقت الحالي.
ويرى المعلق والباحث في مجال الذكاء الاصطناعي غاري ماركوس أن هناك فرقًا جوهريًا بين ذكاء اصطناعي فائق متوافق مع مصالح البشر، إذا كان تحقيق ذلك ممكنًا أصلًا، وبين ذكاء اصطناعي فائق لا يتوافق معها. وأشار إلى أن السيناريو الأول قد يكون إيجابيًا للبشرية، لكن الواقع الحالي، من وجهة نظره، يشهد قدرًا كبيرًا من الضجيج الإعلامي مقابل نقص واضح في الحذر والمسؤولية.
إرسال تعليق