AMD, OCP Summit'te rack başına 32.768 CPU çekirdeği sunan Helion rack'lerini duyurdu. Tasarım, model eğitimi yerine özellikle agentic AI iş yükleri için konumlandırılıyor; bu çerçeveleme, bugüne kadar agent altyapısı tartışmalarına hâkim olan GPU öncelikli kalıptan ayrışıyor. Duyurunun haberleştirilmesi mimariyi CPU merkezli olarak tanımlıyor ve Arm da ayrıca agent iş yüklerinin CPU performansının ne anlama geldiğini değiştirdiğini savundu.
Agent runtime'ları için ilgili iş yükü profili tek bir büyük forward pass değil, sürekli bir orkestrasyondur: adımları zamanlamak, tool call'ları dağıtmak, uzun ömürlü oturumları açık tutmak ve servisler arasında yapılandırılmış payload'ları taşımak. Bu iş büyük ölçüde seri, dallanan ve latency'ye duyarlıdır; tensor throughput'uyla değil, çekirdek sayısı ve bellek bant genişliğiyle ölçeklenir. Bu yoğunlukta bir rack, agent'lar demo'lardan üretime geçerken bağlayıcı kısıtın inference katmanı değil orkestrasyon katmanı olacağına dair bir bahistir.
Stüdyo bunu bir hüküm değil, arz tarafı sinyali olarak okuyor. 32.768 çekirdeğin socket'ler arasında nasıl dağıtıldığı, beraberinde hangi interconnect ve bellek yapılandırmasının geldiği ve bu konumlandırmanın ölçülmüş agent trace'lerini mi yoksa ileriye dönük bir ürün bahsini mi yansıttığı belirsizliğini koruyor. Bu ayrıntılar kapasite planlaması için önemli, çünkü tool yoğun ve I/O-bound agent döngülerinde throughput'u tek başına çekirdek sayısı belirlemez.