成本压力如今已成为智能体系统的一级设计约束。《金融时报》报道称,美国企业界正在拥抱更便宜的开源 AI 模型,这一转变改变了团队对单次运行经济性、托管位置和供应商锁定的假设。对于智能体工作负载而言,单个任务可能触发大量模型调用,这种替代效应会迅速叠加。

路由是团队可掌控的另一根杠杆。据 KT 报道,其自研的模型路由技术在全球评估中综合排名第二,这表明路由质量正作为一项独立能力被衡量和比较,而非内部优化。路由让系统能够将简单步骤交给更便宜的开源权重模型,把更大的模型留给真正需要它们的步骤,而无需重写周围的智能体逻辑。
这两根杠杆都与可靠性相互作用。据报道,未受管理的 AI 智能体因隐性故障给企业造成数百万美元损失,这使得评估和可观测性成为同一场成本讨论的一部分:一个失败更频繁的便宜模型并不便宜。从这些报道中仍不清楚的是,这些路由结果的范围如何界定,以及哪些故障类别导致了所
封面图片:panumas nikhomkhai / Pexels。
