نشرت Arm تحليلًا ترى فيه أن وكلاء الذكاء الاصطناعي يغيّرون معنى أداء المعالج. والادعاء محدد وذو أثر بعيد: حلقات الوكلاء متشعبة ومعتمدة على الحالة ومرتبطة بالأدوات لا محدودة بمعدل النقل. فحلقة الخدمة تقضي وقتها في تدفق التحكم وحالة الذاكرة والانتظار على أدوات خارجية، لا في حساب المصفوفات الكثيف. ومن ثم فإن افتراضات تحجيم المضيفين الموروثة من عناقيد التدريب تسيء تقدير تكلفة زمن التشغيل الذي يخدم الوكلاء فعليًا.
ومورّدو العتاد يضعون أنفسهم بالفعل في مواجهة هذه القراءة. فقد وضعت AMD 32,768 نواة معالج في رف مصمم لوكلاء الذكاء الاصطناعي، مع رفوف Helion التي كُشف عنها في قمة OCP. وفي الوقت نفسه، حذّر الرئيسان التنفيذيان لـ Intel وBroadcom من أن ضيق رأس المال قد يصبح أكبر عنق زجاجة أمام الذكاء الاصطناعي. وقراءة هذه البنود الثلاثة معًا تصف سوقًا تنقسم بين مضيفي الوكلاء كثيفي الأنوية ورأس مال محدود لبنائها.
وبالنسبة للفرق التي تشغّل أنظمة الوكلاء، فالسؤال العملي هو القياس. قبل تبنّي قواعد التحجيم من عصر التدريب، ارسم ملفًا للحلقة الحقيقية: كثافة التشعب، وبصمة الحالة، وزمن استجابة الأدوات، ووقت الخمول. وما يبقى غير واضح من التغطية المتاحة هو كيف تعرّف Arm المقياس، وما إذا كانت أرقام رف AMD تشير إلى تهيئة شحن أم إلى تصميم مرجعي.