أعلنت AMD عن رفوف Helion في قمة OCP، بعدد 32,768 نواة معالجة لكل رفّ. صُمّم هذا التصميم تحديدًا لأحمال عمل الذكاء الاصطناعي الوكيلي بدلًا من تدريب النماذج، وهو تأطير يفصله عن النمط القائم على GPU أولًا الذي هيمن على نقاشات البنية التحتية للوكلاء حتى الآن. تصف التغطية الإخبارية لهذا الإعلان البنية بأنها متمركزة حول المعالجة المركزية، وقد رأت Arm من جانبها أن أحمال عمل الوكلاء تغيّر ما يعنيه أداء المعالجة المركزية.
بالنسبة لبيئات تشغيل الوكلاء، ليس ملفّ حمل العمل ذا الصلة تمريرة أمامية واحدة كبيرة، بل تنسيق مستمر: جدولة الخطوات، وإرسال استدعاءات الأدوات، وإبقاء الجلسات طويلة الأمد مفتوحة، ونقل الحمولات المهيكلة بين الخدمات. هذا العمل تسلسلي إلى حدّ كبير، ومتفرّع، وحسّاس لزمن الاستجابة، وهو يتوسّع مع عدد الأنوية وعرض نطاق الذاكرة لا مع إنتاجية التنسورات. رفّ بهذه الكثافة هو رهان على أن طبقة التنسيق، لا طبقة الاستدلال، هي التي ستصبح القيد الحاسم مع انتقال الوكلاء من العروض التوضيحية إلى الإنتاج.
يقرأ الاستوديو هذا كإشارة من جانب العرض لا كحكم نهائي. لا يزال من غير الواضح كيف تُوزَّع الأنوية الـ 32,768 على المقابس، وما التوصيل البيني وتكوين الذاكرة المصاحب لها، وما إذا كان هذا التأطير يعكس آثارًا مقيسة للوكلاء أم رهانًا منتجيًا استشرافيًا. هذه التفاصيل مهمة لتخطيط السعة، لأن عدد الأنوية وحده لا يحدّد الإنتاجية في حلقات الوكلاء المكثّفة باستدعاءات الأدوات والمقيّدة بالإدخال والإخراج.