نشرت Cerebras طريقة لنشر نماذج حدودية بتريليون معامل على عتادها الخاص بمقياس الرقاقة. يستهدف النهج مباشرةً الاستدلال عند أحجام النماذج التي تُربط عادةً بعناقيد GPU متعددة العقد، حيث تهيمن السعة وتوزيع الذاكرة وسلوك التوصيل البيني على تصميم النظام. ظهر العمل على Hacker News إلى جانب نقاش حول حدود إصدار التعليمات في معماريات GPU، وهو خيط يؤطر المسار بمقياس الرقاقة كبديل عن الخدمة القائمة على العناقيد لا كتنويع عليها.
بالنسبة للفرق التي تبني أنظمة agent، السؤال ذو الصلة ليس حجم النموذج الخام بل سمات التكلفة والزمن الكامن للاستدلال المتكرر. تصدر أساطيل agent العديد من الاستدعاءات الصغيرة المتسلسلة مع حلقات تغذية راجعة محكمة، لذا فإن قرارات التنسيب التي تفترض عنقود GPU تحمل حسابًا مختلفًا للزمن الكامن والجدولة مقارنةً بالعتاد الذي يخدم نموذجًا حدوديًا من نظام واحد. يتعامل الاستوديو مع هذا كمتغير تنسيب يجب قياسه لا افتراضه: الإنتاجية تحت حركة استدعاء الأدوات المتقطعة، والزمن الكامن الطرفي تحت جلسات agent المتزامنة، والعبء التشغيلي لحزمة الخدمة كلها تحتاج إلى تقييم قبل الالتزام بمعمارية.
يأتي الإعلان في وقت تهيمن فيه تكلفة الاستدلال والسعة على تخطيط agent المؤسسي. تصف الطريقة المنشورة النشر على عتاد Cerebras؛ وهي لا تثبت، في التغطية المراجعة، معايير مقارنة مقابل خدمة GPU، وتبقى أرقام الإنتاجية والزمن الكامن المستقلة لأحمال عمل بنمط agent غير واضحة. تلك القياسات هي ما سيجعل مقايضة التنسيب قابلة للحسم.