OpenAI 表示,将不再使用实时互联网训练其 AI 模型,理由是存在“重大风险”。训练曾暂停 11 天,并在完成安全整改后才恢复。该公司还披露了一款广泛使用软件中的缺陷,并公布了其如何保护前沿模型训练环境的细节。据报道,为期三周的现场审计发现了 AI 安全监控方面的缺口。

对于构建 agent 系统的团队而言,这一公告移除了一个默认假设:前沿规模的训练可以摄取任意的实时网络内容。检索流水线、爬取策略和数据来源追溯如今需要被设计为明确、可审计的选择,而非继承而来的默认设置。出站访问同样如此——agent 可以访问哪些主机、依据何种允许列表、记录哪些内容——因为上游的立场如今将网络暴露视为需要加以约束的风险面。
从现有报道中仍不清楚的是这一变化的技术范围:它是否涵盖所有训练数据获取,还是仅涉及某些流水线;合成语料和授权语料如何处理;以及所披露的软件缺陷对下游用户意味着什么。本工作室的解读是,在任何 agent 部署中,数据来源追溯和网络出站控制都应被视为一等设计要素,相关假设需记录在案,并随着供应商政策的变化重新核查。
