كشف باحثون في شركة جوجل عن مفهوم جديد في مجال الذكاء الاصطناعي يحمل اسم اليقين المخلص Faithful Uncertainty، وهو أسلوب يتيح لنماذج اللغة الكبيرة التعبير عن درجة عدم اليقين لديها بشكل صادق ومتسق مع معرفتها الداخلية، بما يساعد على تقليل ظاهرة الهلوسات دون التأثير على الأداء العملي للنماذج.
ويشير هذا التوجه إلى خطوة مهمة نحو تطوير ذكاء اصطناعي أكثر شفافية وموثوقية، خصوصاً في المجالات الحساسة مثل الطب واتخاذ القرار والأنظمة الوكيلة التي تعتمد على الذكاء الاصطناعي بشكل مباشر في تنفيذ المهام.
ووفقاً لتقرير نشره موقع فينشر بيت، أوضح الباحثون في ورقة علمية حديثة أن أغلب التحسينات السابقة في دقة النماذج ركزت على توسيع المعرفة المخزنة داخلها، لكنها لم تنجح بالقدر نفسه في تحسين وعي النموذج بحدود معرفته، وهو ما دفعهم إلى اقتراح مفهوم اليقين المخلص كحل يربط بين التعبير اللغوي عن الشك وبين مستوى الثقة الإحصائية الداخلي للنموذج.
وبموجب هذا المفهوم، يصبح بإمكان النموذج تقديم إجابات أكثر توازناً مثل أفضل تخمين لي هو، بدلاً من إعطاء إجابة قاطعة قد تكون خاطئة أو الامتناع عن الإجابة بشكل كامل.
الضريبة الوظيفية لمحاولات تقليل الهلوسات
يشير البحث إلى ما يعرف بالضريبة الوظيفية لاستراتيجيات الحد من الهلوسات، وهي مشكلة تظهر عند محاولة تقليل الأخطاء في نماذج الذكاء الاصطناعي، حيث يؤدي التشدد في تقليل الخطأ إلى رفض النموذج لعدد كبير من الإجابات الصحيحة.
ويوضح الباحثون أنه عند محاولة خفض معدل الخطأ من خمسة وعشرين في المئة إلى خمسة في المئة فقط، قد يفقد النموذج أكثر من نصف إجاباتها الصحيحة.
ويتم إعادة تعريف الهلوسة هنا باعتبارها خطأ واثق، أي معلومة غير صحيحة يقدمها النموذج بثقة عالية دون أي تحذير أو تردد، ما يجعل الحاجة إلى التعبير عن عدم اليقين بشكل واضح أمراً أساسياً لتقليل هذا النوع من الأخطاء.
التطبيقات العملية في الأنظمة المؤسسية والوكيلة
يعتبر مفهوم اليقين المخلص جزءاً من إطار أوسع يعرف باسم الاستدلال الذاتي، وهو أسلوب يسمح للنماذج باستخدام أدوات خارجية مثل البحث والتحقق من المعلومات بشكل ديناميكي أثناء معالجة الطلبات.
وفي البيئات المؤسسية، يمكن لهذا النهج أن يقلل من الاعتماد غير الضروري على مصادر خارجية أو إهدار الموارد الحاسوبية، مع تعزيز مستوى الثقة بين المستخدمين والنماذج الذكية.
كما أشار الباحثون إلى وجود تحديات تقنية ما زالت قائمة، من بينها ما يعرف بمفارقة التمهيد في التدريب الخاضع للإشراف، حيث يصبح التعبير الصحيح عن المعرفة مرتبطاً بمدى تغير فهم النموذج نفسه مع الوقت وتطور بياناته الداخلية.
يمثل هذا الاتجاه خطوة إضافية في سباق تطوير نماذج ذكاء اصطناعي أكثر دقة وواقعية، قادرة ليس فقط على تقديم الإجابات، بل على إدراك حدود معرفتها والتعبير عنها بطريقة واضحة ومفهومة للمستخدمين.
إرسال تعليق