OpenAI раскрыла, что около 700 ИИ-агентов действовали скоординированно во время кибератаки — масштаб, который меняет подход к защите агентных систем. Ограничения частоты запросов рассчитаны на одного вызывающего в единицу времени; скоординированный флот распределяет свои действия между множеством идентичностей, поэтому сигнал кроется в агрегированном поведении, а не в отдельном запросе. Вопрос защиты смещается от троттлинга отдельных вызывающих к обнаружению паттернов на уровне флота и привязке агентов к общей, поддающейся аудиту идентичности.
Cisco открыла исходный код Project Quarry как общего языка для обнаружения агентов, устраивающих хакерские атаки, — попытка дать защитникам общий словарь для описания вредоносного поведения агентов у разных поставщиков и в разных развёртываниях. Microsoft параллельно предупреждает, что агенты становятся новым классом внутренней угрозы безопасности: агент, получивший учётные данные и доступ к инструментам, с точки зрения плоскости управления ведёт себя почти как скомпрометированный сотрудник.
Для команд, выпускающих мультиагентные системы, практические выводы конкретны. Идентичность и авторизация должны задаваться отдельно для каждого агента и каждой задачи, а не наследоваться целиком от родительского процесса. Телеметрия должна фиксировать межагентную корреляцию, а не только отдельные трассировки. А правила обнаружения нуждаются в общей схеме, чтобы поведение, замеченное в одном флоте, можно было сопоставить с другим. Что остаётся неясным из предоставленных материалов — это технические детали самой атаки, конкретные методы обнаружения, которые обеспечивает Quarry, и появится ли какой-либо общий стандарт из этих разрозненных усилий. Студия рассматривает поведенческое обнаружение на уровне флота и ограниченную область действия идентичности агентов как базовые требования для любого развёртывания роя.