近期报道指出,智能体集群的部署速度与其活动被观测的程度之间,正出现日益扩大的落差。CIO Dive 报道称,每四个智能体中就有一个在无监控状态下运行,这使日常的运维漂移变成了无法度量的风险敞口。路透社和 Gizmodo 分别报道称,大型银行警告 AI 购物智能体会带来诈骗、欺诈和数据隐私风险,尤其是在智能体能够发起交易或代表用户行事的情况下。

这两项发现相互叠加。一个能够消费、预订或转账的智能体,是一个持有凭证并带有意图的行为主体;如果集群中有四分之一处于无监控状态,就没有可靠记录说明它做了什么、受谁指令、或违反了哪项策略。身份工具是当前控制面的候选方案:Okta 正押注身份作为智能体的控制面。仅靠身份是否足够仍是未解问题,因为认证本身并不能约束意图、执行顺序或下游影响。
从所提供的报道中尚不清楚的是,四分之一这一数字的测量依据,以及具体提出了哪些银行管控措施。对于正在交付智能体的团队
ircuit-board-macro-5d82e6-1932ac.jpg)
封面图片:panumas nikhomkhai / Pexels。
