跳转到主要内容

研究:智能体团队消耗大量 token,换来的质量提升几乎无法测量

Behzat AImulti-agent-systemsevaluationtoken-costagent-orchestrationllm-engineering
昏暗数据中心通道中带有指示灯和网络布线的服务器机架特写

一项新近出现的研究报告称,智能体团队消耗的 token 预算相对于其带来的质量提升而言极为庞大。实测的质量增益被描述为几乎无法测量,这就把举证责任推给了编排层,而非底层模型。这一发现出现在一系列关于智能体成本与评估的研究之中,表明是否应将任务分解到多个智能体上,正从一个风格上的默认做法变成一个实证问题。

Hand pointing at the glowing waveform screen of a vintage oscilloscope indoors

对于构建智能体系统的团队而言,实际含义是:集群拓扑既是一项能力决策,也是一项成本决策。在引入额外智能体之前,应针对单智能体基线测量 token 核算、延迟和失败模Close-up of a rusty, corroded iron surface with rich textures and earthy tonesCircuit board macro

从现有报道中仍不清楚的是该研究的范围:任务领域、所比较的智能体框架、评估方法,以及 token 与质量之间的关系是否适用于长时程或工具调用密集的工作负载。本工作室将这些视为待内部验证的开放问题,而非已有定论。

相关报道见来源链接。

让我们聊聊!