据当日的 AI 新闻周期报道,Anthropic 已发表研究,探讨 AI agent 如何影响专家所做的判断决策,该消息与企业采用情况的报道同期出现。这一框架对构建 agent 系统的团队很重要:一旦 agent 位于领域专家与决策之间,结果就较少取决于底层模型,而更多取决于围绕它的 harness——呈现哪些上下文、隐去哪些内容、如何呈现建议,以及表达异议是否容易。

这使得判断成为一个设计与评估问题,而非采购问题。一个悄然收窄专家视野的 harness 可能产生自信的一致意见,同时侵蚀其背后的推理,而标准的任务准确率基准不会显示这一点。团队需要评估来检验专家是否仍能发现错误、在 agent 出错时仍能推翻它,以及在持续使用后仍能解释自己的推理。没有这些,能力退化在变得代价高昂之前都是不可见的。
另外,Anthropic 向 WSJ 表示,企业 AI 采用仍处于早期阶段,并且已授予一个外部 AI 监督机构员工级别的系统访问权限。两者都表明该领域仍在校准监督机制。该研究的方法论、样本及任何测量到的效应在所提供的报道中并未确立,因此实际要点仍是结构性的:将 agent harness 视为评估对象,并从一开始就为保留专家判断而设计。
