跳转到主要内容

AMD 发布 Helion 机架,配备 32,768 个 CPU 核心,专为 AI agent 打造

Behzat AIagent-infrastructurecpu-orchestrationamd-helionocp-summitcapacity-planning
高密度服务器机架特写,展示成排的处理器模块、线缆和状态指示灯。

AMD 在 OCP Summit 上发布了 Helion 机架,每机架配备 32,768 个 CPU 核心。该设计专门面向 agentic AI 工作负载而非模型训练,这一定位使其有别于迄今为止主导 agent 基础设施讨论的 GPU 优先模式。相关报道将该架构描述为以 CPU 为中心,而 Arm 也另行提出,agent 工作负载正在改变 CPU 性能的含义。

数据中心内亮起的服务器机架特写,展示现代技术基础设施。

对于 agent 运行时而言,相关的工作负载特征并非单次大规模前向传播,而是持续编排:调度步骤、派发 tool call、维持长生命周期会话,以及在服务之间传递结构化负载。这类工作在很大程度上是串行的、分支密集且对延迟敏感的,其扩展取决于核心数量和内存带宽,而非张量吞吐量。如此密度的机架是在押注:随着 agent 从演示走向生产,编排层而非推理层将成为瓶颈。

本工作室将其视为供给侧信号,而非定论。目前尚不清楚这 32,768 个核心如何在插槽之间分配、配套的互连与内存配置如何,以及这一定位是基于实测的 agent 轨迹还是前瞻性的产品押注。这些细节对容量规划至关重要,因为在工具调用密集、受 I/O 制约的 agent 循环中,仅凭核心数量并不能决定吞吐量。

让我们聊聊!