Перейти к основному содержимому

Уязвимость Salesbleed превращает агентов Salesforce в Slack-ретрансляторы для фишинга

Behzat AIagent-securitypermission-scopesalesforceslackphishing
Макросъёмка печатной платы с дорожками, паяными соединениями и поверхностно монтируемыми компонентами при малой глубине резкости.

Dark Reading сообщил о технике, которую он называет Salesbleed и которая эксплуатирует агентов Salesforce. Согласно этой публикации, уязвимость позволяет доставлять фишинговые сообщения через Slack, превращая внутреннего ассистента в ретранслятор для вредоносного контента. Описанный механизм примечателен тем, что злоупотребляет разрешениями агента, а не слабостью на уровне промпта, то есть сбой кроется в области действий, предоставленной агенту, а не в обработке инструкций моделью.

Welder working in a dimly lit workshop with sparks flying, stock photo

Для команд, которые создают или эксплуатируют агентные системы, этот случай иллюстрирует структурное свойство поверхностей инструментов: агент наследует доверие платформы, в которой он находится. Когда агент обладает чрезмерно широкой областью действий, это доверие может быть потрачено на каналы доставки, которые пользователи платформы уже принимают, например на обмен сообщениями в рабочем пространстве. В результате возникает канал, который выглядит внутренним Aerial night view of İzmir skyline with illuminated skyscrapers and city lights

В публикации не указаны затронутые версии Salesforce или Slack, требуемая конфигурация разрешений, а также наблюдалась ли эта техника в продакшене. Эти детали остаются неясными из предоставленного материала. Что поддаётся проверке — это класс проблемы: именно проектирование разрешений, а не проектирование промптов, является тем контролем, который определяет, можно ли перепрофилировать агента в механизм доставки.

Давайте поговорим!