Перейти к основному содержимому

OpenAI уволила исследователей из-за исчезающих сообщений в Signal

Behzat AIagent-governanceaudit-trailsinternal-commsllm-agentsretention-policy
Крупный план экрана с интерфейсом зашифрованного мессенджера, пузырями сообщений и иконкой замка

The San Francisco Standard сообщает, что OpenAI уволила исследователей за использование исчезающих сообщений в Signal. Эта информация появилась на фоне серии публикаций о внутреннем мониторинге агентов и обработке инцидентов в лаборатории. Речь идёт о практике внутренних коммуникаций, а не о поведении моделей.

Человек взаимодействует с цифровым кодом на экране, символизируя технологии кибербезопасности

Для команд, создающих агентов, этот случай — напоминание о том, что чувствительный контекст живёт не только в промптах и векторных хранилищах. Он накапливается в чат-каналах, ветках инцидентов и внутренних инструментах, где эфемерные настройки могут удалить запись, которая позже объясняет, что было передано агенту, что он вернул и кто утвердил действие. Поэтому хранение и аудируемость этого контекста — вопрос контроля, а не удобства, и решать его нужно до инцидента, а не после.

Что остаётся неясным из публикаций — это масштаб увольнений, какие внутренние политики применялись и как мониторинг агентов в лаборатории соотносится с хранением коммуникаций. Позиция студии такова: агентные системы должны поставляться с явно заданными границами логирования — какие каналы входят в область охвата, как долго хранится контекст и как проверяется доступ к нему.

Давайте поговорим!