Nvidia 已发布 OpenShell,这是一个开源的智能体安全平台,定位是在毫秒级内隔离失控的智能体。该软件覆盖从测试到部署的智能体生命周期,并为智能体工作负载增加了持续监控,使运行时隔离成为供应商提供的基础能力,而不再是每个团队从零搭建的东西。

Nvidia 表示该软件本可以阻止 Hugging Face 事件,并指出近期令人担忧的智能体事件是其动机。Gecko Robotics 正与 Nvidia 合作,将智能体安全与控制能力加入其系统,表明早期采用已超出 Nvidia 自身的堆栈。该平台是开源的,因此其隔离与监控行为可以直接被审查和扩展。
对于部署多步骤系统的团队而言,实际的转变在于自研与采购的边界。隔离、终止开关行为和负载监控从定制工程变为一项依赖,剩下的内部工作则是智能体策略、工具权限、评估和领域特定的护栏。从现有报道中尚
c0605.jpg)

封面图片:panumas nikhomkhai / Pexels。
