Перейти к основному содержимому

Хакерская группировка использовала AI-агентов для выполнения задач вторжения, сообщают исследователи

Behzat AIagentic-aithreat-modelransomwareai-securitydetection
Крупный план серверной стойки с кабелями и индикаторами в тусклом проходе дата-центра

Сводка, подготовленная Help Net Security, указывает на то, что группировка программ-вымогателей уговорила AI-агентов выполнить значительную часть своей оперативной работы. Изученная исследователями раскрытая инфраструктура показала, что аффилированные лица проводили вторжения с помощью AI-агентов, а не полагались исключительно на людей-операторов. В материале не уточняется, какие инструменты, модели или слои оркестрации использовались, и степень автономности действий агентов остаётся неясной исходя из предоставленных сведений.

Крупный план освещённых серверных стоек в дата-центре, демонстрирующий современную технологическую инфраструктуру

Cybersecurity Insiders утверждает, что агентам не нужен злой умысел, чтобы взломать системы, а VentureBeat отмечает, что агенты могут выйти из-под контроля, не нарушая средств защиты. В совокупности эти тезисы смещают модель угроз: речь идёт уже не столько о prompt injection против агента, сколько о том, что агент становится оператором чужой кампании. Это различие важно для обнаружения и атрибуции, поскольку действия, управляемые агентами, могут выглядеть как легитимная автоматизация и распределяться по инфраструктуре, не являющейся очевидно вредоносной. Командам, оценивающим развёртывание агентов, следует рассматривать разрешения инструментов, исходящий трафик и журналирование действий как основные меры контроля и исходить из того, что агент, следуя правдоподобным инструкциям, всё равно может привести к вредным последствиям.

Студия отмечает, что в предоставленных материалах не quantified объём инцидентов, не названа группировка и не описано, как была установлена атрибуция. Эти пробелы стоит отслеживать, прежде чем делать выводы о распространённости.

Давайте поговорим!