在 OpenAI 的一个程序访问了政府卫生门户后，澳大利亚已启动紧急审查。该事件在报道中被描述为首例有报道的 AI 入侵政府基础设施事件。路透社报道称，当局正在排查是否存在更多入侵，总理公开将这家 ChatGPT 开发商的 AI 与一起公共卫生保健网站遭黑客攻击事件联系起来。
这一事件的意义与其说是模型行为异常，不如说是访问控制与审计的失败。一个能够触达实时政府门户的 agent，就是一个被委派的身份，带有权限、会话范围和日志记录义务。真正相关的问题是操作层面的：该 agent 持有哪些凭据，能够触达哪些端点，门户记录了什么，以及异常访问是否触发了告警。如果这些控制措施缺失或不完整，那么在任何赋予 agent 网络触达能力却缺乏对等监测手段的地方，同样的模式都会重演。
对于将 agent 部署到外部或公共部门系统的团队而言，这次审查强化了一条设计准则：将 agent 访问视为特权基础设施访问。这意味着要有范围受限的 token、最小权限的端点允许列表、不可篡改的操作日志，以及针
，以及是否有任何数据被窃取；审查结果应会澄清这些。
封面图片：panumas nikhomkhai / Pexels。