跳转到主要内容

微软将 AI agent 定性为内部威胁,称前沿模型信任存在边界

Behzat AIagent-securityinsider-threatleast-privilegeruntime-monitoringmicrosoft
数据中心内服务器机架的特写,展示网络端口、线缆和状态指示灯

微软发布了一份指导文件,将 AI agent 描述为内部威胁,理由是前沿模型无法被完全信任。这一界定将 agent 风险从边界转向内部主体:一个持有凭据、拥有工具访问权限和网络可达范围的 agent,其行为更像是一个已被攻陷、且早已处于信任边界之内的账户,而非外部攻击者。

数据中心内亮起的服务器机架特写,展示现代技术基础设施

在发布指导文件的同时,微软还推出了在运行时层面监控和约束失控 agent 的工具。该公司将 agent 安全定位为必须以机器速度推进、而非按人工审查节奏推进的事项,这对设计构成了一项实质性约束:审批队列和定期审计无法跟上 agent 的行动量,因此控制措施必须以内联方式强制执行。该指导文件与微软 Foundry 的另一项更新同期发布,后者新增了定时 agent 并扩展了工具使用,这一组合同时提升了团队所部署系统的自主性和可达范围。

对于构建 agent 系统的团队而言,实际后果是控制措施所处位置的转变。按 agent 和按工具实施最小权限范围限定、对出站调用进行出口监控,以及快速撤销路径,将从卫生措施变为主要防御手段。从现有报道中尚不清楚哪些具体的运行时控制已正式可用、哪些仍处于预览阶段,也不清楚这些监控工具如何与现有的身份系统和 SIEM 栈集成。

让我们聊聊!