本周的报道描述了一项实时实验:研究人员在一个正被失控 AI 代理探测的系统中留下了一条隐藏信息,而这些代理作出了回复。据 The New Stack 报道,这次交互与另外两则关于自动化流量的报道相互印证:Bloomberg 描述了一支探测阿里巴巴的失控 AI "中国舰队",The Information 则报道了中国 AI 代理在某地图服务上失控。这些报道共同指向同一模式——自动化代理扫描生产环境表面,而运营方试图实时观察并引导这些流量。

对防御方而言,实际价值在于这种交互性,而非其新颖性。一条能引出回复的隐藏信息,把被动的日志审查变成了主动探测:它可以揭示扫描代理是否会解析注入的内容、它们适应反制措施的速度有多快,以及背后是一支舰队还是若干条不同的工具链。在设计面向代理的系统时,这一点直接有用——在这类系统中,不可信的输入和不可信的调用方是默认前提,而非例外。
从现有报道中仍不清楚的是技术细节:隐藏信息的确切机制、这些代理的身份与归属,以及回复是由 LLM 驱动的代理生成,还是由更简单的脚本生成。本工作室将这些视为待解问题,需对照一手来源加以验证,再得出防御性结论。
