Перейти к основному содержимому

Инциденты безопасности агентов накапливаются: украдено 600 тыс. карт, боковое перемещение, неотслеживаемые запуски

Behzat AIagent-securityai-agentsruntime-observabilitylateral-movementthreat-model
Крупный план тёмной серверной стойки со светодиодными индикаторами и сетевыми кабелями

Недавние публикации указывают на сдвиг в том, как атакуют и злоупотребляют агентными системами. Китайскоязычный злоумышленник использовал ИИ-агентов для кражи 600 000 кредитных карт, сообщает qz.com. Отдельно The Hacker News сообщает, что агентов используют для переписывания сценариев бокового перемещения внутри скомпрометированных сетей, а CIO Dive ссылается на вывод о том, что каждый четвёртый агент работает без мониторинга, создавая операционный риск. Исследователи также описывают вредоносное ПО, в котором панель LLM выбирает следующий шаг атаки, о чём сообщают Help Net Security и inc.com.

Silhouette of a large satellite dish against a colorful sunset sky

В совокупности это операционные инциденты, а не демонстрации prompt injection. Общая нить в том, что агенты действуют с реальными учётными данными и доступом к инструментам, а их решения не всегда логируются или ограничиваются. Поэтому обнаружение и локализация должны быть частью среды выполнения: логирование каждого действия, ограниченные по области учётные данные и лимиты на то, что агент может делать, Blue and white abstract liquid metal texture with fluid reflections and smooth waves

Что остаётся неясным из предоставленных материалов — точный инструментарий, версии моделей и схемы развёртывания за каждым инцидентом, а также как была измерена цифра «один из четырёх без мониторинга». Behzat AI рассматривает эти отчёты как доказательство того, что наблюдаемость агентов и runtime-ограничения теперь являются базовыми требованиями, а не дополнениями.

Давайте поговорим!