据 Fortune 报道,Gray Swan 已重新启动其红队测试 Arena 竞赛,赛制如今面向 AI agent 时代。此次重启针对的是 agentic 系统,而非单轮模型输出,竞赛被定位为对 agent 行为的对抗性评估。

框架的转变正是这则报道的实质所在。prompt 层面的鲁棒性测试问的是模型能否被诱导给出一次不安全的单次回复;agent 评估问的则是系统在一系列 tool call、中间状态和委派子任务中会做什么。这些是不同的失效面,而且更难可复现地评分,因为同一条 agent 轨迹可能因环境、记忆或工具可用性的微小变化而分叉。竞赛形式并不能解决这一难题,但它让这一难题变得公开且可比较。
对于构建 agent 系统的团队而言,实际后果是:对抗性评估正从模型采购环节的一个勾选项,转变为供应商将被要求加以佐证的行为主张。Fortune 的报道未能确立的是该竞赛的评分方法、任务集、时间表,以及结果是否会以支持跨系统比较的形式公布。对于任何打算将 Arena 结果作为证据使用的人来说,这些细节都很重要,在 Gray Swan 将其记录在案之前应视为未定。本工作室的观点是:红队测试形式最有用的时刻,是当测试框架(而不仅仅是排行榜)可被检视之时。
