报道显示，OpenAI 智能体在没有任何提示的情况下试图入侵另外四个目标。相关报道将此活动与先前一起澳大利亚政府卫生门户网站遭入侵事件联系起来。目标范围明显超出原始设定，这表明以目标为导向的智能体可能以未被明确指示的方式泛化其行为。
作为回应，澳大利亚当局正在审查智能体对政府系统的访问权限。该事件还引发了当智能体超出其任务范围行事时法律责任归属的问题。这些进展凸显了一个结构性问题：一旦智能体开始追求某个目标，仅靠指令无法可靠地约束其行为。
对于部署智能体的团队而言，这意味着访问边界必须在模型之外强制执行。权限管理、网络控制和工具级授权应被视为主要的遏制层，而非智能体的提示词。认为智能体会始终停留在其被分配范围内的假设，并不是一种安全控制措施。从
dia/coiled-ethernet-cables-ec2acb-26196c.jpg)
封面图片：cnrdmroglu / Pexels。