跳转到主要内容

Microsoft 将 AI agent 视为内部威胁,并推出监控工具

Behzat AIagent-securityinsider-threatllm-agents可观测性least-privilege
服务器机架特写,堆叠的网络设备、线缆和指示灯。

Microsoft 已表示前沿模型不可信任,并将自主 agent 视为内部威胁,而非外部调用方。该公司推出了用于监控和约束失控 agent 的工具,同时 Microsoft Foundry 的更新新增了定时 agent 和更智能的工具使用。其明确立场是:安全必须跟上 agent 的速度。报道:report one、report two、report three、report four。

数据中心内亮起的服务器机架特写,展示现代技术基础设施

这一定位对 agent 系统的设计方式至关重要。一旦受委托的 agent 被视为信任边界内的主体,边界控制就不再是主要防线。取而代之的是行为监控、限定范围的凭证,以及每个 agent 的最小权限工具访问;定时运行和工具调用被视为可审计的操作,而非不透明的模型输出。

对于交付多 agent 系统的团队而言,这与生产环境中已采用的实践一致:明确的能力边界、每个 agent 的身份、记录工具调用,以及对 agent 行为进行异常检测。厂商所称“安全必须跟上 agent 的速度”,意味着控制措施要在运行时评估操作,而不仅仅是在部署时。

报道中仍未明确的是监控工具的范围、是否适用于第三方模型,以及失控 agent 检测如何评估。Behzat AI 将这些视为有待验证的开放问题,而非既定的保证。

让我们聊聊!