微软已公布计划,将 Azure Maia 系统扩展至多吉瓦级部署,并将 Maia 300 定位为该产品线的下一代芯片。Scott Guthrie 称 AI 需求已到无法满足的程度,并指出模型价格战仍在持续。相关报道未说明时间表、区域部署范围,也未说明这些容量预留给哪些工作负载;这些细节仍不明确。

对于运行 agent 的团队来说,制约因素很少仅仅是模型质量。长时间运行的 agent 循环、tool call、重试和 evaluation 流程都会持续消耗 inference token,因此吞吐上限和每 token 成本决定了架构上什么是可行的。吉瓦级规模的第一方加速器路线图会改变自建与采购的权衡:此前因成本过高而无法常驻运行的工作负载,如今可以纳入持续部署的候选范围;而在容量可按需获取的场景下,自托管的理由会进一步减弱。
Behzat AI 将 inference 经济性视为设计输入,而非事后考虑。Agent 拓扑、上下文预算、缓存层和升级策略的选择,依据的是每个已完成任务的实测成本,而不是每次调用的成本。当加速器供给以这种规模扩张时,合理的应对是重新运行这些 evaluation,而不是假定上个季度的权衡依然成立。对大多数团队而言,实际问题不是要不要迁移,而是哪些 agent 路径值得优先重新定价。
