Nvidia выпустила открытую платформу безопасности агентов Open Agent Safety Platform, получившую название OpenShell, цель которой — не позволить ИИ-агентам действовать вне человеческого контроля. Nvidia заявляет, что платформа способна сдерживать вышедших из-под контроля агентов за миллисекунды и охватывает жизненный цикл от тестирования до развёртывания. Публикации связывают этот релиз с предыдущими инцидентами, включая сообщения о взломе Hugging Face и вышедших из-под контроля агентах, нацеленных на сайты правительства США. Вместе с анонсом Nvidia также опубликовала техническое руководство по добавлению runtime-контроля для агентов.
Инженерный сигнал здесь в том, что сдерживание во время выполнения теперь стало поставляемой поверхностью продукта, а не исследовательским паттерном. Для команд, создающих агентов и мультиагентные рои, это смещает вопрос проектирования с того, будет ли модель самоограничиваться, на то, где находятся точки принуждения в их собственном стеке: перехват вызовов инструментов, контроль исходящего трафика, оценка политик на уровне оркестрации и журналы аудита, переживающие частичный отказ. Поставляемый вендором слой сдерживания не устраняет необходимости во внутренних границах, особенно там, где агенты владеют учёт
Что остаётся неясным из предоставленных публикаций: конкретные механизмы сдерживания, поддерживаемые фреймворки агентов и то, как измеряется сдерживание за миллисекунды. Командам, оценивающим OpenShell, следует рассматривать это как открытые вопросы и протестировать поведение принуждения против собственной модели угроз, прежде чем полагаться на него.