آخر الأخبار

أندريه كارباثي يكشف أسرار GPT-2 في محاضرة تعليمية عبر يوتيوب


 قدم أندريه كارباثي، الباحث البارز في مجال الذكاء الاصطناعي والمؤسس المشارك لـ OpenAI، محاضرة تعليمية عبر قناته على يوتيوب، حيث قام بإعادة إنتاج نموذج GPT-2 خلال أربع ساعات فقط. هذا الإنجاز يعكس الخبرة العميقة التي يمتلكها كارباثي في مجال الذكاء الاصطناعي وتطوير النماذج اللغوية.

بعد مغادرته OpenAI في وقت سابق من هذا العام، لم يتوقف كارباثي عن مشاركة خبراته مع العالم. فقد أمضى ساعات في تصوير مقاطع فيديو تعليمية، مركزًا على نماذج وحدات فك التشفير ومشاركًا معرفته الواسعة مع المتابعين.

في أحدث محاضراته، أعاد كارباثي بناء أصغر نسخة من GPT-2، التي تضم 124 مليون معلمة، موضحًا العملية بأكملها من البداية وحتى النهاية. وأكد على أن النسخة التي أعاد إنشاءها كانت قريبة جدًا من نموذج GPT-3 الأكبر حجمًا.

كارباثي، الذي كان مسؤولًا عن التعلم العميق والرؤية الحاسوبية في OpenAI، لطالما كان مؤيدًا لفكرة نشر المعرفة والعلوم وراء النماذج اللغوية الكبيرة. وحتى بعد مغادرته الشركة، واصل تقديم مساهماته القيمة لمجتمع الذكاء الاصطناعي من خلال إنشاء برامج تعليمية ومقاطع فيديو تفصيلية.

من بين مشاريعه السابقة، مشروع llm.c، الذي يتيح للمستخدمين تدريب النماذج اللغوية الكبيرة باستخدام لغة C، دون الحاجة إلى الاعتماد على PyTorch أو cPython. وقد قدم أيضًا محاضرة مدتها ساعة تناول فيها تعقيدات النماذج اللغوية الكبيرة وآلية عملها بشكل مفصل.

بعد فترة وجيزة من مغادرته OpenAI، أصدر كارباثي برنامجًا تعليميًا حول فهم الرموز المميزة، واستغل الفرصة لتحليل الرمز المميز Gemma من جوجل بعد إطلاقه، مما يعكس شغفه المستمر بتبادل المعرفة وتعزيز الفهم العام للذكاء الاصطناعي.

التعليقات

أحدث أقدم

نستخدم ملفات تعريف الارتباط لضمان حصولك على أفضل تجربة.