تخطط شركة Snap ، مالكة خدمة مراسلة الفيديو Snapchat ، لإطلاق أدوات جديدة لجعل تجارب chatbot القائمة على تقنية الذكاء الاصطناعي أكثر أمانًا.
بعد أيام من قيام Snap بإصدار روبوت المحادثة المستند إلى GPT للمشتركين في الخدمة المدفوعة Snapchat + ، كشف تقرير صادر عن واشنطن بوست أن الروبوت كان يستجيب بطريقة آمنة وغير مناسبة.
قالت Snap إنها كانت تدرك أنه بعد إطلاق chatbot ، كان الناس "يحاولون خداعها لتقديم ردود لا تتوافق مع إرشاداتنا." تم إطلاق العديد من الأدوات بهدف الحصول على الردود تحت السيطرة.
يتضمن Snap عامل تصفية يسمح لروبوتات الذكاء الاصطناعي بمعرفة تاريخ ميلاد المستخدم وتقديم إجابات مناسبة للعمر. سأضعه في الاعتبار ".
في الأسابيع المقبلة ، تخطط Snap لتزويد الآباء والأوصياء بمزيد من المعلومات حول تفاعلات أطفالهم مع برامج الروبوت على Family Hub ، الذي تم إطلاقه في أغسطس الماضي.
تكتشف هذه الميزة الجديدة ما إذا كان المراهقون يتفاعلون مع روبوتات المحادثة ومدى تكرار هذه التفاعلات. يجب على الوالدين والقصر التسجيل في Family Center لاستخدام ميزات الرقابة الأبوية هذه.
حذر Snap في منشور مدونة من أن chatbot My AI ليس "صديقًا حقيقيًا". استخدم محفوظات المحادثة الخاصة بك لتحسين ردك. تقوم الشركة أيضًا بإخطار المستخدمين بشأن الاحتفاظ بالبيانات بمجرد بدء محادثة مع الروبوت.
وبحسب الشركة ، فإن معدل الردود "غير اللائقة" من الروبوتات لم يتجاوز 0.01٪. يزيل Snap الإشارات إلى "العنف ، أو اللغة الجنسية الصريحة ، أو تعاطي المخدرات غير القانوني ، أو الاعتداء الجنسي على الأطفال ، أو التنمر ، أو خطاب الكراهية ، أو اللغة المهينة أو المتحيزة ، أو العنصرية ، أو كراهية النساء ، أو التهميش الجماعي". نحن لا نعتبر جميع الإجابات التي تحتوي على "غير مناسبة".
يقول Snapchat إنه في معظم الحالات تكون هذه الردود غير الملائمة نتيجة لمحاكاة الروبوتات لكل ما يقوله المستخدم. كما ثبت أنه يحظر مؤقتًا الوصول إلى روبوتات الذكاء الاصطناعي للمستخدمين المسيئين.
مع الانتشار السريع للأدوات التي تعمل بالذكاء الاصطناعي ، يشعر الكثير من الناس بالقلق بشأن سلامتهم وخصوصيتهم. في الأسبوع الماضي ، أرسلت مجموعة أخلاقية تسمى مركز الذكاء الاصطناعي والسياسة الرقمية رسالة إلى لجنة التجارة الفيدرالية الأمريكية تحثها على التوقف عن نشر تقنية GPT-4 الخاصة بـ OpenAI ، واصفة التكنولوجيا الناشئة بأنها "متحيزة ومضللة". الخصوصية والسلامة العامة.
في الشهر الماضي ، كتب السناتور مايكل بينيت أيضًا إلى OpenAI و Meta و Google و Microsoft و Snap ، معربًا عن قلقه بشأن سلامة أدوات الذكاء الاصطناعي التوليدية التي يستخدمها المراهقون.
أصبحت روبوتات المحادثة الجديدة الآن عرضة للإدخال الضار ، والذي يُعتقد أنه يؤدي إلى إخراج غير مناسب. قد تتعجل شركات التكنولوجيا لنشر هذه الأدوات ، لكن يجب عليها اتخاذ إجراءات وقائية كافية لمنع برامج الدردشة الآلية من إساءة استخدام مستخدميها.
إرسال تعليق