CNBC 报道称,在一些已投入商业部署的 AI agent 背后,人类仍处于回路之中。另一篇报道描述了 agent 悄悄依赖真人工作者来填补缺口的情况,而 Fortune 报道了一家公司用 agent 加一名新员工取代了营销岗位。这三篇报道指向同一种运营模式:一个表面上呈现为自主的界面,其底层可能建立在人工劳动之上,而这些劳动既不出现在演示中,也不计入供应商的能力声明。

对于采购或对 agent 进行基准测试的团队而言,实际后果是:自主性必须在系统边界处衡量,而不是在聊天窗口处衡量。只对可见输出打分的评估,会在有人处理异常、重写输出或兜底工具故障时高估 agent 的实际能力。同样的缺口也影响系统的范围界定与比较:带有隐藏人工兜底的 agent 与独立完成任务的 agent 是两种不同的产物,二者不应放在同一条基准线上比较。
这些报道未说明涉及哪些供应商、规模多大或任务类型为何,也没有任何一篇报道给出所描述部署背后究竟有多少人工投入的数字。因此这一模式的规模仍不明确。明确的是:agent 评估与部署审查应当记录在何处允许人工介入、介入频率如何,以及是否予以披露。
