Arm 发布了一篇分析，认为 AI agent 正在改变 CPU 性能的含义。这一论断范围明确且影响深远：agent 循环是分支密集、有状态且受工具约束的，而非受吞吐量约束的。服务循环的时间花在控制流、内存状态和等待外部工具上，而不是密集的矩阵运算上。因此，从训练集群沿用而来的主机规格假设，会错误地估算实际服务 agent 的运行时成本。
硬件厂商已经在针对这一解读进行布局。AMD 在一台专为 AI agent 打造的机架中放置了 32,768 个 CPU 核心，Helion 机架在 OCP 峰会上亮相。与此同时，Intel 和 Broadcom 的 CEO 警告称，资本紧缩可能成为 AI 最大的瓶颈。将这三条信息放在一起看，它们描述了一个正在分化的市场：一边是核心密集的 agent 主机，另一边是用于建造这些主机的受限资本。
对于运行 agent 系统的团队来说，实际问题是测量。在采用训练时代的规格规则之前，先对真实循环进行性能分析：分支密度、状态占用、工具延迟和空闲时间。从所提供的报道中仍不清楚的是，Arm 如何定义这一指标，以及 AMD 的机架数字指的是出货配置还是参考设计。