OpenAI 披露,约 700 个 AI agent 在一起网络攻击中协同行动,这一规模重新定义了 agent 系统的防御方式。按请求限流的前提是同一时间只有一个调用方;而一个协同集群会把行动分散到众多身份上,因此信号存在于聚合行为中,而非任何单个请求里。防御问题从限制单个调用方,转向检测集群级模式,并将 agent 绑定到共享的、可审计的身份上。

Cisco 已将 Project Quarry 开源,作为检测大规模黑客行动中 agent 的共享语言,试图为防御方提供一套通用词汇,以跨厂商、跨部署描述恶意 agent 行为。与此同时,Microsoft 警告称,agent 正在成为一类新的内部安全风险:从控制平面的视角看,一个被授予凭证和工具访问权限的 agent,其行为与一名被攻陷的员工非常相似。
对于交付多 agent 系统的团队而言,实际影响是具体的。身份与授权需要按 agent、按任务划定范围,而不是从父进程整体继承。遥测需要捕获跨 agent 的关联,而不只是单条 trace。检测规则需要共享 schema,以便将一个集群中观察到的行为与另一个集群进行匹配。从所提供的报道中仍不清楚的是:攻击本身的技术细节、Quarry 所支持的具体检测方法,以及这些各自独立的努力是否会催生任何通用标准。本工作室将集群级行为检测和限定范围的 agent 身份视为任何 swarm 部署的基线要求。
