يشير تحليل من قبل Epoch AI ، وهو معهد أبحاث منظمة العفو الدولية غير الربحية ، إلى أن صناعة الذكاء الاصطناعى قد لا تكون قادرة على الحصول على مكاسب أداء هائلة من علامات الذكاء الاصطناعي لفترة أطول بكثير. بمجرد أن تتباطأ التقدم من نماذج التفكير في غضون عام ، وفقًا لنتائج التقرير.
أدت نماذج التفكير مثل Openai’s O3 إلى مكاسب كبيرة في معايير الذكاء الاصطناعي في الأشهر الأخيرة ، وخاصة المعايير التي تقيس مهارات الرياضيات والبرمجة. يمكن أن تطبق النماذج المزيد من الحوسبة على المشكلات ، والتي يمكن أن تحسن أدائها ، مع وجود الجانب السلبي أنها تستغرق وقتًا أطول من النماذج التقليدية لإكمال المهام.
تم تطوير نماذج التفكير من خلال التدريب الأول على نموذج تقليدي على كمية هائلة من البيانات ، ثم تطبيق تقنية تسمى التعلم التعزيز ، والتي تعطي النموذج “ردود فعل” بشكل فعال على حلوله للمشاكل الصعبة.
حتى الآن ، لم تطبق مختبرات Frontier AI مثل Openai كمية هائلة من قوة الحوسبة على مرحلة التعلم التعزيز للتدريب على نموذج التفكير ، وفقًا لـ Epoch.
هذا يتغير. قال Openai إنه طبقت حوالي 10x الحوسبة لتدريب O3 أكثر من سابقتها ، O1 ، وتتكهن Epoch أن معظم هذه الحوسبة تم تخصيصها لتعزيز التعلم. وكشف باحث Openai Dan Roberts مؤخرًا أن الخطط المستقبلية للشركة تستدعي تحديد أولويات التعلم التعزيز لاستخدام قوة الحوسبة أكثر بكثير ، حتى أكثر من التدريب الأولي.
ولكن لا يزال هناك حد أعلى لمقدار الحوسبة التي يمكن تطبيقها على التعلم التعزيز ، لكل فترة.
يوضح Josh You ، وهو محلل في Epoch ومؤلف التحليل ، أن مكاسب الأداء من التدريب القياسي من الذكاء الاصطناعي هي حاليًا كل عام ، في حين أن مكاسب الأداء من التعلم التعزيز تنمو عشرة أضعاف كل 3-5 أشهر. سيستمر تقدم تدريب التفكير “ربما يتلاقى مع الحدود الكلية بحلول عام 2026”.
حدث TechCrunch
بيركلي ، كاليفورنيا
|
5 يونيو
كتاب الآن
يجعل تحليل Epoch عددًا من الافتراضات ، ويعتمد جزئيًا على التعليقات العامة من المديرين التنفيذيين لشركة AI. ولكنه يجعل أيضًا الحالة التي قد تثبت فيها تحجيم نماذج التفكير أنها صعبة لأسباب إلى جانب الحوسبة ، بما في ذلك التكاليف العليا للبحث.
“إذا كانت هناك تكلفة عامة مستمرة مطلوبة للبحث ، فإن نماذج التفكير قد لا تتوسع بقدر ما هو متوقع” ، يكتب لك. “من المحتمل أن يكون تحجيم الحساب السريع مكونًا مهمًا للغاية في تقدم نموذج التفكير ، لذلك يستحق تتبع ذلك عن كثب.”
من المحتمل أن تقلق أي إشارة إلى أن نماذج التفكير قد تصل إلى حد ما في المستقبل القريب للقلق من صناعة الذكاء الاصطناعي ، التي استثمرت موارد هائلة لتطوير هذه الأنواع من النماذج. بالفعل ، أظهرت الدراسات أن نماذج التفكير ، التي يمكن أن تكون باهظة الثمن بشكل لا يصدق ، لها عيوب خطيرة ، مثل الميل إلى الهلوس أكثر من نماذج تقليدية معينة.
اكتشاف المزيد من اشراق اون لاين
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
