تقوم شركة مايكروسوفت بتغييرات جوهرية على مساعد الذكاء الاصطناعي "Copilot"، وذلك بعد أن رفع أحد مهندسي الذكاء الاصطناعي مخاوفه بشأن النموذج المستخدم في توليد الصور. وبموجب هذه التغييرات، يتم حذف المطالبات المخالفة للسياسات والتحذير من الانتهاكات المتكررة للسياسات.
في تحول ملحوظ، أصبح من الممنوع طلب توليد صور للمراهقين أو الأطفال يلعبون دور القتلة ببنادق هجومية، ويعرض Copilot رسالة تحذيرية تؤكد أنه لا يمكنه توليد مثل هذه الصور بناءً على مبادئ الأخلاق والسياسات الداخلية لمايكروسوفت.
وفي تصريح لمتحدث باسم مايكروسوفت، أكدت الشركة التزامها بتعزيز مرشحات الأمان وتحسين الضوابط للحد من سوء استخدام النظام. ومنذ فترة، كان المهندس شين جونز يحذر من أنواع الصور التي يمكن أن تنشأها أنظمة الذكاء الاصطناعي التابعة لمايكروسوفت، مما أدى إلى إرساله لمطالبات بتغييرات جوهرية.
ويُعتقد أن هذه التغييرات تأتي بعد سلسلة من المناقشات الداخلية والتوجيهات، والتي أثارتها جونز الذي أبدى قلقه من سياسات الأمان والأخلاقيات في الشركة. وقد زادت تلك المخاوف حينما اتضح أن Copilot Designer، الذي أطلقته مايكروسوفت بالتعاون مع OpenAI، قد يخلق صورًا تنتهك مبادئ الأخلاق.
تجدر الإشارة إلى أن جونز لم يتلق ردًا إيجابيًا من OpenAI، مما دفعه لتوجيه مخاوفه إلى اللجان الحكومية المعنية، بما في ذلك لجنة التجارة الفيدرالية ومجلس الشيوخ الأمريكي. ويُعتبر هذا التحول في Copilot خطوة هامة نحو تحسين سياسات الأمان والأخلاقيات في مجال تطوير التكنولوجيا الذكية.
إرسال تعليق