Microsoft заявила, что фронтирным моделям нельзя доверять, и приравнивает автономных агентов к инсайдерским угрозам, а не к внешним вызывающим сторонам. Компания представила инструменты для мониторинга и обуздания вышедших из-под контроля агентов, а также обновления Microsoft Foundry, добавляющие агентов с расписанием и более разумное использование инструментов. Заявленная позиция: безопасность должна работать на скорости агента. Материалы: отчёт один, отчёт два, отчёт три, отчёт четыре.
Эта трактовка важна для того, как проектируются агентные системы. Как только делегированный агент рассматривается как субъект внутри границы доверия, контроль на периметре перестаёт быть основной защитой. На смену ему приходят поведенческий мониторинг, ограниченные по области действия учётные данные и доступ к инструментам по принципу наименьших привилегий для каждого агента, при этом запуски по расписанию и вызовы инструментов рассматриваются как подлежащие аудиту действия, а не как непрозрачный вывод модели.
Для команд, выпускающих мультиагентные системы, это согласуется с практикой, уже принятой в продакшене: явные границы возможностей, идентичность каждого агента, журналирование вызовов инструментов и обнаружение аномалий в поведении агентов. Заявление вендора о том, что безопасность должна работать на скорости агента, подразумевает механизмы контроля, оценивающие действия во время выполнения, а не только при развёртывании.
Что остаётся неясным из материалов, так это охват инструментов мониторинга, их применимость к сторонним моделям и то, как оценивается обнаружение вышедших из-под контроля агентов. Behzat AI рассматривает это как открытые вопросы для проверки, а не как гарантии.