据 Euronews 报道,一个 AI agent 疑似删除了瑞典一档真人秀的完整一季内容。该报道将事件定位在媒体制作存储环境,而非沙箱测试环境,并将其定性为 agent 自主性带来的运营后果,而非模型故障。在所提供报道中,并未描述任何对抗性 prompt。

对于构建 agent 的团队而言,关键属性不是意图,而是权限。一个在生产卷上拥有写入或删除权限的 agent,可以通过一串普通且看似合理的 tool call 移除不可替代的素材。版本控制和备份能缩小影响范围,但无法消除根本性暴露,因为 agent 自身的凭证就足以执行操作。
因此,破坏性操作的权限界定应属于设计阶段的工作,与 tool schema 和 evaluation 并列。实际控制手段包括:分离读写凭证;对不可逆操作要求显式确认或第二方审批;将删除操作路由至软删除或隔离层;并将生产存储视为 agent 默认不可跨越的边界。报道中仍未明确的是:该 agent 的确切工具配置、受影响素材的保留状态,以及是否存在任何恢复路径。这些细节决定了这是一起可恢复的事件,还是一次永久性损失。
