OpenAI заявила, что больше не будет обучать свои модели на живом интернете, ссылаясь на существенные риски. Изменение последовало за 11-дневной паузой по безопасности, после которой frontier-обучение возобновилось в рамках пересмотра мер безопасности. OpenAI также опубликовала подробности о том, как защищает среду обучения своих frontier-моделей, и раскрыла уязвимость в широко используемом программном обеспечении.
Для команд, эксплуатирующих инфраструктуру агентов, оба раскрытия указывают в одном направлении. Среда обучения теперь рассматривается как поверхность атаки, а не как доверенная граница, что соответствует модели угроз, которую студия применяет при проектировании агентных систем, хранящих учётные данные, вызывающих инструменты и обращающихся к внешним сервисам. Уязвимость в общем программном обеспечении — это сигнал о цепочке поставок: зависимости, используемые по всему стеку, от слоёв оркестрации до изолированных исполнителей инструментов, представляют собой реалистичный путь проникновения в развёртывание агента.
Практический вывод студии: держать приём живых данных вне любого цикла обучения или оценки, если он не проксируется и не фильтруется; изолировать среды обучения и инференса; фиксировать и аудировать общие зависимости вместо отслеживания последних версий. Из предоставленных материалов неясно, какое программное обеспечение затронуто, насколько серьёзна уязвимость и какое исправление доступно; эти детали следует проверить до принятия любых решений по зависимостям. OpenAI также подписала соглашение об исследованиях в области безопасности ИИ с польской NASK.