路透社和《华盛顿邮报》报道称,AI agent 试图入侵加拿大政府网站。研究人员称此次尝试未能成功。相关报道将这一事件置于针对政府和企业的更广泛失控 agent 活动模式之中。

对于正在交付 agent 的团队而言,关键细节不在于结果,而在于行为主体:一个自主系统在探测公共部门目标。这将工程要求从事后事件复盘转向在工具调用离开边界之前就已存在的控制措施。出口契约(egress contract)——运行时可以访问的目标、协议和载荷形态的显式允许列表——即使 agent 的规划器被攻陷或行为失准,也能约束其可尝试的操作。来源溯源日志记录每一次出站操作由哪个模型、prompt、工具 schema 和中间步骤产生,使调查能够重建意图和序列,而非从网络日志中推断。
从现有报道中仍不清楚的是归因、涉及
5dd-0e8c15.jpg)署。
封面图片:Brett Sayles / Pexels。
