تكشف Meta عن نموذج لاما جديد وأكثر كفاءة

أعلنت شركة Meta عن أحدث إضافة إلى عائلة Llama من نماذج الذكاء الاصطناعي التوليدية: Llama 3.3 70B.

في منشور على X، قال أحمد الدحل، نائب الرئيس للذكاء الاصطناعي التوليدي في Meta، إن Llama 3.3 70B النصية فقط تقدم أداء أكبر نموذج Llama في Meta، Llama 3.1 405B، بتكلفة أقل.

وكتب الدهلي: “من خلال الاستفادة من أحدث التطورات في تقنيات ما بعد التدريب… يعمل هذا النموذج على تحسين الأداء الأساسي بتكلفة أقل بكثير”.

نشر الدحل مخططًا يوضح تفوق Llama 3.3 70B على Gemini 1.5 Pro من Google، وGPT-4o من OpenAI، وNova Pro الذي تم إصداره حديثًا من Amazon في عدد من معايير الصناعة، بما في ذلك MMLU، الذي يقيم قدرة النموذج على فهم اللغة. عبر البريد الإلكتروني، قال متحدث باسم Meta إن النموذج يجب أن يقدم تحسينات في مجالات مثل الرياضيات والمعرفة العامة واتباع التعليمات واستخدام التطبيق.

نقدم لكم Llama 3.3 — نموذج 70B جديد يقدم أداء طراز 405B الخاص بنا ولكنه أسهل وأكثر فعالية من حيث التكلفة في التشغيل. من خلال الاستفادة من أحدث التطورات في تقنيات ما بعد التدريب بما في ذلك تحسين التفضيلات عبر الإنترنت، يعمل هذا النموذج على تحسين الأداء الأساسي في… pic.twitter.com/6oQ7b3Yuzc

— أحمد الدحلة (@Ahmad_Al_Dahle) 6 ديسمبر 2024

Llama 3.3 70B، المتوفر للتنزيل من منصة تطوير الذكاء الاصطناعي Hugging Face ومصادر أخرى، بما في ذلك موقع Llama الرسمي، هو أحدث مسرحية لشركة Meta للسيطرة على مجال الذكاء الاصطناعي من خلال نماذج “مفتوحة” يمكن استخدامها وتسويقها لمجموعة من التطبيقات.

تقيد شروط Meta كيفية استخدام بعض المطورين لنماذج Llama؛ يجب على المنصات التي تضم أكثر من 700 مليون مستخدم شهريًا أن تطلب ترخيصًا خاصًا. لكن بالنسبة للكثيرين، من غير المهم أن نماذج اللاما ليست “مفتوحة” بالمعنى الدقيق للكلمة. ومن الأمثلة على ذلك، حققت Llama أكثر من 650 مليون عملية تنزيل، وفقًا لـ Meta.

لقد استفادت Meta من اللاما داخليًا أيضًا. Meta AI، مساعد الذكاء الاصطناعي للشركة، والذي يتم تشغيله بالكامل بواسطة نماذج Llama، لديه الآن ما يقرب من 600 مليون مستخدم نشط شهريًا، وفقًا للرئيس التنفيذي لشركة Meta مارك زوكربيرج. يدعي زوكربيرج أن Meta AI تسير على الطريق الصحيح لتصبح مساعد الذكاء الاصطناعي الأكثر استخدامًا في العالم.

بالنسبة لميتا، كانت الطبيعة المنفتحة للاما بمثابة نعمة ونقمة. وفي نوفمبر/تشرين الثاني، زعم تقرير أن باحثين عسكريين صينيين استخدموا نموذج اللاما لتطوير روبوت محادثة دفاعي. استجابت شركة ميتا بجعل نماذج اللاما الخاصة بها متاحة لمقاولي الدفاع الأمريكيين.

أعربت ميتا أيضًا عن مخاوفها بشأن قدرتها على الامتثال لقانون الذكاء الاصطناعي، وهو قانون الاتحاد الأوروبي الذي يحدد إطارًا تنظيميًا للذكاء الاصطناعي، ووصفت تنفيذ القانون بأنه “لا يمكن التنبؤ به للغاية” بالنسبة لاستراتيجية الإصدار المفتوح الخاصة به. من القضايا ذات الصلة بالشركة الأحكام الواردة في اللائحة العامة لحماية البيانات (GDPR)، قانون الخصوصية في الاتحاد الأوروبي، المتعلقة بتدريب الذكاء الاصطناعي. يقوم Meta بتدريب نماذج الذكاء الاصطناعي على البيانات العامة لمستخدمي Instagram وFacebook الذين لم يقموا بإلغاء الاشتراك، وهي البيانات التي تخضع في أوروبا لضمانات اللائحة العامة لحماية البيانات.

طلب المنظمون في الاتحاد الأوروبي في وقت سابق من هذا العام من شركة ميتا وقف التدريب على بيانات المستخدم الأوروبي أثناء تقييم امتثال الشركة للقانون العام لحماية البيانات. وقد رضخت ميتا، في حين أيدت في الوقت نفسه رسالة مفتوحة تدعو إلى “تفسير حديث” للقانون العام لحماية البيانات لا “يرفض التقدم”.

ميتا، ليست محصنة ضد التحديات التقنية التي تواجهها مختبرات الذكاء الاصطناعي الأخرى، وتعمل على تكثيف البنية التحتية الحاسوبية الخاصة بها لتدريب وخدمة الأجيال القادمة من اللاما. أعلنت الشركة يوم الأربعاء أنها ستبني مركز بيانات للذكاء الاصطناعي بقيمة 10 مليارات دولار في لويزيانا، وهو أكبر مركز بيانات للذكاء الاصطناعي أنشأته شركة ميتا على الإطلاق.

قال زوكربيرج في مؤتمر أرباح Meta للربع الرابع في أغسطس إنه لتدريب المجموعة الرئيسية التالية من نماذج Llama، Llama 4، ستحتاج الشركة إلى حوسبة أكثر بـ 10 أضعاف مما هو مطلوب لتدريب Llama 3. وقد اشترت Meta مجموعة تضم أكثر من 100000 وحدة معالجة رسوميات Nvidia لتطوير النماذج، وتنافس موارد المنافسة مثل XAI.

يعد تدريب نماذج الذكاء الاصطناعي التوليدية عملاً مكلفًا. ارتفعت النفقات الرأسمالية لشركة Meta بنسبة 33٪ تقريبًا إلى 8.5 مليار دولار في الربع الثاني من عام 2024، ارتفاعًا من 6.4 مليار دولار في العام السابق، مدفوعة بالاستثمارات في الخوادم ومراكز البيانات والبنية التحتية للشبكات.