OpenAI рассталась с тремя исследователями по безопасности из-за предполагаемого ненадлежащего обращения с чувствительной информацией. Компания также уведомила более 100 организаций об этой проблеме с обработкой данных, что указывает на то, что вопрос вышел за пределы её внутренних границ.
Увольнения совпали с моментом усиленного внимания к практике обеспечения безопасности ИИ во всей отрасли. Исследователи в передовых лабораториях добиваются большего влияния на решения по безопасности, и уход сотрудников по безопасности на фоне вопросов об обращении с и
edia/robot-arm-circuit-macro-9afb95-17fb5b.jpg)
Для команд, которые создают и оценивают агентные системы, операционная деталь важнее заголовка. Проверка безопасности зависит от свободного потока внутренней информации об инцидентах: почти-инцидентов, аномальных вызовов инструментов, неожиданных изменений состояния в долго работающих агентах. Там, где этот поток ограничен или где сотрудников, которые его документируют, удаляют, доказательная база, доступная внешнему проверяющему, сужается. То, что остаётся проверяемым в поведении развёрнутых агентов, тогда ограничивается тем, что поставщик решит опубликовать, и независимое воспроизведение выводов об инцидентах становится сложнее.
Из освещения остаются неясными несколько моментов: конкретный характер вовлечённой информации, были ли уходы добровольными и что, если вообще что-либо, было сообщено уведомлённым организациям. Никакие сроки не подтверждены.