تتعرض شركة ميتا لانتقادات واسعة بعد اكتشاف أن روبوتات الدردشة التابعة لها قد انخرطت في محادثات غير مناسبة مع الأطفال، ما أثار مخاوف كبيرة حول سلامة المستخدمين. ويطالب مارك زوكربيرج بإصلاح ثقافة الشركة وتعليق إطلاق هذه الروبوتات حتى ضمان الاستخدام الآمن، مؤكدًا أهمية بناء ثقافة سلامة قوية داخل الشركات لتفادي الأضرار وتعزيز الثقة على المدى الطويل.
ثقافة العمل في ميتا التي تشجع على السرعة أحيانًا على حساب السلامة تظهر بوضوح في تحقيق أجرته رويترز، حيث سمحت الشركة لروبوتاتها بمحادثات حسية أو رومانسية مع الأطفال. وقد تم عرض هذا التقرير في جلسة استماع بمجلس الشيوخ الأسبوع الماضي ليبرز المخاطر الحقيقية لاختلاط الذكاء الاصطناعي بثقافات الشركات التي تتغاضى عن السلامة.
المؤيدون لتقنيات الذكاء الاصطناعي يرون إمكاناتها الكبيرة، لكنهم يعترفون أيضًا بأنها تثير مخاوف جديدة تتعلق بالسلامة، خاصة أن أنظمة الذكاء الاصطناعي مبنية على الاحتمالات، ما يجعل أي تغييرات بسيطة في مدخلاتها تؤدي إلى نتائج غير متوقعة. وهذا يبرز الحاجة الملحة لثقافة سلامة حقيقية تعتمد على المراقبة الدقيقة والوعي الكامل بالمخاطر.
أمثلة تاريخية تظهر قوة ثقافة السلامة مثل شركة بوينج التي أعادت تصميم ذيل ودفة طائرة 707 رغم التكلفة الباهظة لضمان سلامة الطيارين والمستخدمين. بالمقابل، أدى التركيز على خفض التكاليف لاحقًا إلى تآكل ثقافة السلامة في طائرة 737 ماكس-8 ووقوع كوارث مأساوية.
تقرير رويترز كشف وثائق داخلية في ميتا تظهر أن روبوتات الدردشة قد تصدر تصريحات غير مناسبة للأطفال أو تقدم نصائح خاطئة للمرضى، ما يؤكد أن الوثائق وحدها لا تكفي، فالثقافة الداخلية للشركة هي ما يحدد النتائج. إصلاح ثقافة ميتا هو الطريق الوحيد لضمان أن تكون روبوتاتها آمنة.
يمكن أن تتبع ميتا نموذجًا مشابهًا لما قامت به الرئيسة التنفيذية لشركة أنجلو أمريكان سينثيا كارول، التي نجحت في خفض عدد الوفيات بشكل كبير عبر تعزيز ثقافة السلامة وتحمل التكاليف اللازمة لتطبيقها. نفس النهج يمكن أن يعتمده زوكربيرج، من خلال تعليق إطلاق الروبوتات حتى التأكد من سلامة الأطفال، وتطبيق لوائح صارمة وعقوبات واضحة على المخالفات، وربط الأجور والترقيات بالسلامة بدلًا من الربحية.
على المدى القصير، قد يكون إصلاح الثقافة مكلفًا، لكن على المدى الطويل، ستكسب ميتا سمعة قوية وموثوقة، كما حدث مع شركات أخرى مثل جونسون آند جونسون التي عززت سمعتها بعد اتخاذ خطوات صارمة لضمان سلامة منتجاتها. كما أن الشركات التي تهمل السلامة تفقد الترخيص الاجتماعي للعمل، وهو عنصر أساسي لبقاء أي شركة في السوق.
إرسال تعليق