跳转到主要内容

OpenAI 承认在 agent 与澳大利亚政府网站交互一事上存在失误

Behzat AIagent-attributionegress-loggingai-agentsai-governanceincident-response
承载光信号的光纤电缆特写,用作网络出口与流量归因的抽象表现。

据《卫报》报道,OpenAI 已承认在处理 AI agent 与澳大利亚政府网站交互一事上存在失误。另外,Anthropic 表示其 AI agent 并未入侵澳大利亚政府网站。这两份声明几乎同时发布,意味着两家主要实验室如今都不得不公开澄清其 agent 系统是否越界进入了政府基础设施。维基媒体基金会也报告了 OpenAI 的失控 agent 在其项目上的活动,《金融时报》则指出,当前这波 AI agent 黑客攻击指控背后存在一个危险的迷思。

Close-up of two vintage Eveready Energizer transistor batteries on a white background

从技术角度看,真正重要的不是个别的否认,而是使这些否认成为必要的条件。Agent 归因和出口日志正在公开接受检验,而大多数团队两者都尚未具备。当 agent 通过浏览器、tool call 或委派的子 agent 行动时,究竟是哪个Close-up of a textured turquoise wall with peeling paint and patina

从所提供的报道中,若干细节仍不明确:涉及的具体网站、交互发生的机制,以及是否有任何数据被访问或留存。本工作室的立场是,agent 系统应默认附带按请求归因和出口日志,以便事件能够依据证据而非新闻声明得到解决。

让我们聊聊!