AMD, tek bir rack'te 32.768 CPU çekirdeği barındıran ve agentic AI iş yüklerini hedefleyen, Helion adı altında rack ölçeğinde bir sistem duyurdu. Duyuru OCP Summit'te yapıldı. Lansmanı ele alan haberler, sistemi GPU öncelikli bir tasarım yerine agent'lar için CPU merkezli altyapı olarak çerçeveliyor.
LLM agent'ları barındıran ekipler için ilginç olan kısım ham verim değil, kaynağın şekli. Agent runtime'ları zamanlarının büyük bölümünü durum geçişlerinde harcar: tool call'lar, retrieval, kuyruklama, yeniden denemeler ve uzun ömürlü oturum belleği. Bu adımlar sıklıkla hesaplama değil gecikme ve bellek sınırlıdır ve çok sayıda küçük, bağımsız görev arasında paralelleşir. On binlerce çekirdeğe sahip bir rack, zamanlayıcı ve bellek hiyerarşisi buna ayak uydurabildiği sürece bu örüntü için makul bir zemin oluşturur.
Sunulan haberlerden net olmayan noktalar şunlar: çekirdek başına bellek yapılandırması, interconnect topolojisi, güç bütçesi, kullanılabilirlik tarihleri ve yayımlanmış agent'a özel benchmark'lar. Bu veriler olmadan, bunun agent barındırmayı bir zamanlama ve bellek sorunu olarak yeniden çerçevelediği iddiası ölçülmüş bir sonuç değil, bir tasarım argümanıdır. Behzat AI, spesifikasyon ayrıntılarını takip edecek ve bu tür CPU yoğun düğümlerin agent orkestrasyonu ve değerlendirme pipeline'larında hızlandırıcı havuzlarının yanında nasıl konumlandığını değerlendirecektir.