كشف باحثون في مايكروسوفت عن تقنية مبتكرة تسمى "تقليل رتبة الطبقة الانتقائية LASER"، والتي قد تحسّن بشكل كبير دقة النماذج اللغوية الكبيرة.
بسياق منتدى أبحاث الشركة في يناير، شرح الباحث ديبندرا ميسرا كيف يمكن لهذه التقنية أن تحل محل مصفوفات الأوزان الكبيرة بمصفوفات أصغر، مما يؤدي إلى تحسين أداء النماذج اللغوية الضخمة.
الأوزان تلعب دورًا حاسمًا في قدرة الشبكات العصبونية الاصطناعية على التعلم والتنبؤ، ومع تقنية LASER، يمكن تحسين أداء هذه النماذج دون فقدان الدقة.
ويعمل نظام LASER على تحسين أداء النماذج اللغوية الكبيرة من خلال استبدال المصفوفات الكبيرة بمصفوفات أصغر، مما يقلل من حجم البيانات ويحافظ على دقة النموذج.
وباستخدام هذه التقنية، نجح الفريق في تحسين أداء ثلاثة نماذج لغوية مختلفة، مما أدى في بعض الأحيان إلى زيادة بنسبة 30% في الأداء.
تحقيقاً لأقصى قدر من الدقة، استخدم الباحثون LASER في نموذج مفتوح المصدر GPT-J، حيث ارتفعت دقته من 70.9% إلى 97.5% في التنبؤ بالجنس بناءً على السيرة الذاتية.
وبالرغم من أهمية هذا الاكتشاف، إلا أنه يظل هناك قلق بشأن دقة النماذج اللغوية الضخمة، حيث يمكن أن تؤدي الأخطاء الواقعية لنماذج الذكاء الاصطناعي إلى نتائج خاطئة.
إرسال تعليق