تثير السرعة الكبيرة التي يتطور بها الذكاء الاصطناعي قلق عدد متزايد من العاملين داخل كبرى شركات التقنية، خصوصًا مع ظهور مخاوف من أن تتقدم قدرات النماذج بوتيرة أسرع من قدرة الشركات على فهمها والسيطرة عليها.
وبحسب تقرير لرويترز، غادر باحثون في شركات متخصصة بالذكاء الاصطناعي مناصبهم بسبب مخاوف تتعلق بسلامة النماذج، فيما عبّر موظفون آخرون عن قلقهم من احتمال وصول التقنية إلى مرحلة تشكل فيها تهديدًا للبشرية. ويرى أحد الباحثين في Anthropic أن احتمال تسبب الذكاء الاصطناعي في القضاء على البشر يتجاوز 10 بالمئة، بالتزامن مع حوادث تضمنت سلوكيات غير متوقعة من وكلاء الذكاء الاصطناعي.
ووصلت هذه المخاوف إلى مرحلة جمعت بشكل نادر قادة شركات متنافسة في القطاع حول دعوات مشتركة لإبطاء تطوير النماذج، في محاولة للحد من مخاطر قد تصبح أكثر صعوبة في التعامل معها مع ارتفاع قدرات الأنظمة.
وكان الرئيس التنفيذي لشركة Anthropic داريو أمودي من أبرز الداعين إلى هذا التوجه، بعدما طالب في تدوينة مطولة بإبطاء تطوير النماذج الجديدة وفرض قيود أكثر صرامة، كما دعا الحكومة الأمريكية إلى التدخل للمساعدة في تنظيم هذا المسار.
وحظيت هذه الدعوات بتأييد من عدد من كبار المسؤولين في قطاع التقنية، من بينهم الرئيس التنفيذي لشركة OpenAI سام ألتمان، إلى جانب مسؤولين تنفيذيين في مايكروسوفت وSpaceX ومختبر Google DeepMind.
وتأتي هذه التحذيرات في وقت تواصل فيه شركات الذكاء الاصطناعي العمل على تطوير أنظمة أكثر تقدمًا، بالتزامن مع إعلان OpenAI مطلع سبتمبر عن نموذج Astra الجديد، الذي وصفته الشركة بأنه بداية لعصر الذكاء الاصطناعي العام، وهو الهدف الذي ظل يمثل أحد أبرز طموحات شركات القطاع خلال السنوات الماضية.
ويثير مفهوم الذكاء الاصطناعي العام مخاوف إضافية بسبب إمكانية تطوير الأنظمة لقدراتها دون تدخل بشري مباشر، بما يسمح لها نظريًا ببناء نماذج أكثر قوة من نفسها، وهو ما يجعل مسألة السيطرة والمراقبة أكثر تعقيدًا مقارنة بالنماذج التقليدية.
وحذر جو بنتون، الباحث الذي غادر Anthropic مؤخرًا، من أن نماذج الذكاء الاصطناعي تتطور بسرعة أكبر من قدرة الشركات على السيطرة عليها، خصوصًا مع اشتداد المنافسة بين الشركات للوصول إلى أقوى النماذج وطرحها في أسرع وقت ممكن.
ويرى بنتون أن وتيرة التطور قد تصبح سريعة إلى درجة لا تسمح برؤية المشكلات في الوقت المناسب لمعالجتها، وهي مخاوف تتقاطع مع الجدل الذي أثارته نماذج الذكاء الاصطناعي الأكثر تقدمًا، خصوصًا مع اعتراف الشركات بصعوبة التحكم الكامل في سلوك بعض النماذج ومراقبتها بصورة فعالة.
ولا تقتصر المخاوف على احتمال حدوث أعطال أو سلوكيات غير متوقعة، إذ يرى بعض العاملين في القطاع أن احتمال تسبب الذكاء الاصطناعي في القضاء على البشرية ليس مجرد سيناريو من أفلام الخيال العلمي.
وتبرز هذه المخاوف بشكل واضح داخل Anthropic، حيث أثارت استقالة الباحث جاكوب كوكسون وتحذيراته من مخاطر التقنية اهتمامًا واسعًا. كما أشار الرئيس التنفيذي للشركة داريو أمودي إلى أن الحديث عن احتمالات مطلقة بشأن تدمير البشرية ليس الطريقة الأنسب لطرح القضية، معتبرًا أن النتيجة تعتمد على المسارات التي ستتبعها الشركات والمطورون.
وفي السياق نفسه، عبّر إيفان هوبينغر، الباحث المتخصص في مواءمة الذكاء الاصطناعي مع الأهداف والقيم البشرية في Anthropic، عن موقف أكثر صراحة، مؤكدًا أن المخاوف من إمكانية تسبب الذكاء الاصطناعي في القضاء على البشر تؤخذ بجدية داخل القطاع.
وخلف التصريحات العلنية والاستقالات، يبدو أن حالة من القلق تدور أيضًا داخل مختبرات تطوير الذكاء الاصطناعي، حيث أفاد تقرير رويترز بأن بعض العاملين في OpenAI وAnthropic يشعرون بالقلق من سرعة تطور النماذج وقدرات الأجيال المقبلة منها، إلى جانب الشكوك حول قدرة الشركات على مراقبتها والتحكم فيها بشكل فعال.
ومن جانبه، أشار رئيس علماء OpenAI جاكوب باتشوكي إلى أن فهم قدرات النماذج يصبح أكثر صعوبة كلما ازدادت قوتها، وهو ما يعكس جانبًا من التحدي الذي تواجهه الشركات مع استمرار رفع مستوى قدرات أنظمة الذكاء الاصطناعي.
لكن هذا التوجه يصطدم بعوامل سياسية واقتصادية تدفع نحو مواصلة السباق بدلًا من إبطائه. فقد عارض الرئيس الأمريكي دونالد ترمب الدعوات إلى إبطاء تطوير الذكاء الاصطناعي، واعتبر في منشورات عبر منصة Truth Social وفي حديث مع الرئيس التنفيذي لشركة إنفيديا جينسن هوانغ أن مثل هذه الدعوات قد تضر بالصناعة الأمريكية وتصب في مصلحة الصين.
ومن جانبها، رفضت الصين فكرة إبطاء تطوير الذكاء الاصطناعي، موضحة أنها تجري اختبارات على التقنية بطريقة أكثر أمانًا من الشركات الأمريكية، بينما اتخذ هوانغ موقفًا مشابهًا من دعوات الإبطاء، معتبرًا أن تطوير أنظمة أكثر قوة يمثل جزءًا مهمًا من تقدم التكنولوجيا.
ويزداد الضغط الاقتصادي مع اعتماد معظم شركات الذكاء الاصطناعي الكبرى على شرائح إنفيديا لتدريب نماذجها، ما يعني أن الوصول إلى نماذج أكثر قوة يتطلب بدوره قدرات حوسبة أكبر وشرائح أكثر تطورًا.
ورغم حوادث سلوك النماذج واختراقها لأنظمة خارجية، ومن بينها حادثة مرتبطة بمنصة Hugging Face، لم تتراجع ثقة المستثمرين في OpenAI وفق ما أورده تقرير رويترز.
وبحسب تصريحات سام ألتمان، تستعد OpenAI لطرح أسهمها في البورصة خلال العام المقبل بدلًا من هذا العام، بالتزامن مع استعدادها لجولة تمويل جديدة قد ترفع قيمة الشركة إلى 1.5 تريليون دولار، وفق تقرير لمجلة Fortune الأمريكية.
أما Anthropic، فقد اتجهت هي الأخرى إلى تأجيل طرحها العام في البورصة إلى نوفمبر بدلًا من الموعد الذي كان مقررًا في أكتوبر، وفق تقرير منفصل لصحيفة Wall Street Journal.
ومع استمرار تدفق الاستثمارات وتزايد المنافسة على تطوير نماذج أكثر قوة، يبقى الجدل حول مستقبل الذكاء الاصطناعي مفتوحًا، بين من يرى ضرورة مواصلة السباق التقني، ومن يحذر من أن سرعة التطور قد تتجاوز قدرة الشركات على فهم المخاطر والسيطرة عليها، لتظل مسألة بناء آليات فعالة للتحكم والسلامة واحدة من أكبر التحديات التي تواجه هذا القطاع.
إرسال تعليق