AMD 发布了一款名为 Helion 的机架级系统，在单个机架中集成 32,768 个 CPU 核心，面向智能体 AI 工作负载。该发布会在 OCP 峰会上进行。对此次发布的报道将该系统定位为面向智能体的以 CPU 为核心的基础设施，而非 GPU 优先的设计。
对于托管 LLM 智能体的团队而言，真正值得关注的不是原始吞吐量，而是资源的形态。智能体运行时的大部分时间花在状态转换上：工具调用、检索、排队、重试以及长生命周期的会话内存。这些步骤往往受限于延迟和内存，而非计算，并且可以在大量小型、独立的任务之间并行化。一个拥有数万个核心的机架是这种模式的可行基础，前提是调度器和内存层级能够跟上。
从所提供的报道中仍不清楚的是每个核心的内存配置、互连拓扑、功耗范围、可用日期以及任何已发布的智能体专用基准测试。缺少这些数据，所谓这将智能体托管重新定义为调度与内存问题的说法，只是一种设计论点，而非经过测量的结果。Behzat AI 将持续跟踪规格细节，并评估此类 CPU 密集型节点如何在智能体编排与评估流水线中与加速器资源池协同配合。