报道称,电力短缺正导致数据中心内的 AI 芯片闲置,即已安装的加速器容量无法达到满负荷利用,因为限制因素在于电力供应而非芯片本身。对于运行 agent 系统的团队而言,这改变了规划问题的性质:吞吐量不仅取决于 GPU 采购,同样取决于已落实的电力与并网时间表。

围绕同一批硬件的融资活动仍在继续。据报道,Nvidia 正在考虑为 Nscale 位于西弗吉尼亚州的数据中心提供信用支持,这一结构将使这家芯片供应商更接近其所供应设施的资产负债表风险。另外,据报道印度基础设施公司 AM Intelligence 正为 Nvidia 的下一代芯片寻求 30 亿美元债务融资。这两则消息都表明,资本正围绕部署而非设备可得性进行安排。
对 agent 工程而言,实际含义是:容量假设应按站点和按连接分别建模,并为 inference 突发流量和 evaluation 运行预留余量。从现有报道中仍不清楚的是:各区域闲置容量的规模、限制预计持续的时间,以及所述融资安排是已达成还是仍在考虑之中。在这些问题明确之前,在吞吐量规划中应将电力视为约束性瓶颈。
