据 Yahoo Finance 报道，Nvidia 的黄仁勋表示，AI agent 已将 token 和 GPU 需求推至“爆表”。这一说法将推理重新定义为容量规划问题，而非背景成本：agent 集群在规划、工具调用和重试过程中持续消耗 token，因此吞吐量上限和每 token 定价与模型选择、编排一同进入设计简报。
文中引用 Gene Munster 的预测：bot 用户将从约 1500 万增长至数十亿，这一轨迹意味着推理供给将持续承压。另据 Amazon 的 Jassy 表示，推理成本需下降约 90%，企业才能广泛采用。综合来看，两种立场界定了规划空间：一侧是需求增长，另一侧是尚未达到企业可接受水平的成本曲线。
对于构建多 agent 系统的团队而言，实际后果是 token 预算、并发限制和回退路由成为一等工程产物，需以与检索质量或工具可靠性同等的严谨度进行评估。报道中尚不清楚的是两种预测各自对应的时间框架，以及 90% 这一数字指的是单位成本、总支出还是特定工作负载类别。本工作室将这些视为需按每次部署实测的开放变量，而非既定假设。