跳转到主要内容

AI agent 卷入钓鱼链路:委托扩大了社会工程攻击面

Behzat AIagentic-aiphishingsecurityllm-agentsdelegation
浅景深下成束网络线缆与接头的特写,显示已接入的端口和带标签的布线。

Futurism 报道称,使用 AI agent 会让用户更容易受到钓鱼邮件的侵害。这一机制是结构性的,而非偶然的:一旦 agent 对邮件进行分诊并代表用户采取行动,收到的消息就不再只是用来阅读的内容,而变成了一条指令通道——而且它携带着用户的权限抵达。一个对谨慎的人类会失败的诱饵,却可能对一个被设计为对收到的内容采取行动的委托流程奏效。

彩色灯光照亮的网络线缆接头特写

这一发现恰逢企业将 agent 助手纳入收件箱和工作流工具之际,这使得风险敞口从个人谨慎转移到了系统设计层面。相关的控制措施位于不可信内容与特权操作之间的边界上:对入站邮件进行来源校验,明确界定 agent 在未经确认的情况下可以做什么,以及将阅读消息与执行其请求的任何操作分离开来。来自信任边界之外的内容应被视为数据,而非意图,任何带有副作用的操作都应要求一个发送方无法触及的检查点。

所提供的报道并未确立的是:效应的大小、易感性上升的条件,或测试了哪些 agent 设计。这些空白对于任何决定要给一个读取邮件的助手授予多少自主权的人来说都很重要。在获得更清晰的证据之前,本工作室的立场是将委托的收件箱访问视为一项特权集成,并在扩大其权限之前用对抗性消息对其进行评估。

让我们聊聊!