Перейти к основному содержимому

Сторонние агенты обходят защиту, созданную для выбранного вами ИИ

Behzat AIagent-securitythird-party-agentsdelegated-authorityai-governanceнаблюдаемость
Крупный план сетевых кабелей, подключённых к патч-панели, с индикаторами на портах.

Инструменты безопасности для ИИ-агентов строятся на допущении, которое выполняется не всегда: что организация сама выбрала и настроила соответствующего агента. Когда агент является сторонним или делегированным — действует от имени организации извне периметра — это допущение нарушается, и средства контроля, настроенные вокруг внутренних развёрнутых агентов, не обязательно применимы.

Close-up of an orange power button on an electronic remote control

The Hacker News описывает это как отдельный класс риска, отличный от теневого ИТ. Теневое ИТ касается инструментов, внедрённых без централизованного одобрения; случай делегированного агента касается агентов, которых организация изначально не выбирала, не настраивала и не оснащала средствами контроля. Команды, вложившиеся в observability, применение политик и журналы аудита для своих развёрнутых агентов, могут по-прежнему не и![Aerial view oAerial view of a large solar panel array with warehouses and silos in the background under a clear sky

Практический пробел — это пробел в инвентаризации и атрибуции: знать, какие внешние агенты обладают делегированными полномочиями, какой объём эти полномочия охватывают и как их действия соотносятся с организацией. Материалы по этой теме не указывают конкретных поставщиков, инцидентов или измеренного воздействия, и Behzat AI независимо не проверяла лежащую в основе информацию. Архитектурный тезис остаётся в силе сам по себе — допущения о происхождении агентов, основанные на периметре, стоит пересмотреть до того, как делегированный доступ будет предоставлен в масштабе.

Давайте поговорим!