Правила ЕС в области ИИ проходят первую проверку соблюдения после инцидентов во фронтирных лабораториях, сообщает Euronews. Computerworld сообщает, что ЕС расследует OpenAI и Anthropic в связи с инцидентами с участием ИИ-агентов. Эти дела важны не столько своим исходом, сколько тем, что они устанавливают: регуляторные риски теперь связаны с поведением агентов в продакшене, а не только с выпуском моделей или публикуемыми оценками. Отдельно Reuters сообщает, что глобальный финансовый регулятор призывает к усилению человеческого надзора за агентным ИИ, распространяя то же ожидание на финансовые услуги.
Инженерное следствие прямое. Когда агент совершает значимое действие, вопросы, которые задают регуляторы, носят операционный характер: что сделал агент, какие инструменты он вызвал, какой контекст получил, какая политика применялась и кто одобрил эскалацию. Системы, которые не могут ответить на эти вопросы по логам, не смогут ответить на них и по политикам. Аудиторские журналы, структурированные журналы действий, идентификаторы трассировки и определённый путь отчётности об инцидентах становятся deliverables в том же бэклоге, что и сам агент.
Исследование IBM, упомянутое в материале, показало, что восемь из десяти предприятий EMEA эскалируют инциденты с ИИ до совета директоров или топ-менеджмента, так что линия отчётности уже существует в большинстве организаций; чего часто не хватает — так это доказательств для неё. Позиция студии: отчётность об инцидентах должна проектироваться вместе с правами агента на инструменты и шлюзами одобрения, а не достраиваться после того, как придёт запрос на проверку. Что остаётся неясным из материала — это масштаб и сроки расследований ЕС, а также станет ли руководство финансового регулятора по надзору обязательным.