跳转到主要内容

OpenAI 结束实时互联网训练,并在 11 天安全暂停后披露一处缺陷

Behzat AIagent-securitysupply-chainfrontier-trainingai-safety
带有发光状态 LED 和成排连接以太网线缆的网络交换机特写。

OpenAI 表示,出于重大风险考虑,将不再在实时互联网上训练其模型。这一变化发生在为期 11 天的安全暂停之后,随后前沿训练在安全整改下恢复。OpenAI 还公布了其如何保护前沿模型训练环境的细节,并披露了广泛使用的软件中的一处缺陷。

数据中心内插入服务器机架的网络线缆特写

对于运行 agent 基础设施的团队而言,这两项披露指向同一个方向。训练环境现在被视为攻击面,而非可信边界,这与工作室在设计持有凭证、调用工具并访问外部服务的 agent 系统时所采用的威胁模型一致。共享软件中的缺陷是一个供应链信号:跨技术栈使用的依赖项,从编排层到沙箱化的工具运行器,都是进入 agent 部署的现实路径。

工作室的实际解读是:除非经过代理和过滤,否则将实时数据摄取排除在任何训练或评估循环之外;隔离训练与推理环境;固定并审计共享依赖项,而不是跟踪最新版本。从所提供的报道中无法得知受影响的是哪款软件、缺陷的严重程度如何,或有哪些可用的修复措施;在做出任何依赖决策之前,应核实这些细节。OpenAI 还与波兰的 NASK 签署了一项 AI 安全研究协议。

让我们聊聊!