Перейти к основному содержимому

Bank Policy Institute рассматривает персональных AI-агентов как проблему мандата и ответственности

Behzat AIagent-identitydelegated-accessfinancial-servicesai-governanceagent-security
Крупный план серверной стойки с установленным сетевым оборудованием, кабелями и индикаторами состояния

Bank Policy Institute опубликовал материал под названием «Your AI Agent Doesn't Work for You», в котором утверждается, что действия персонального агента нельзя считать находящимися в рамках мандата пользователя. Эта формулировка важна для разработчиков агентов: она трактует делегированный доступ как вопрос полномочий и ответственности, а не как вопрос о том, можно ли доверять конкретному поставщику. На такой аргумент сложнее ответить заверениями о качестве модели или обращении с данными.

Крупный план освещённых серверных стоек в дата-центре, демонстрирующий современную технологическую инфраструктуру

Эта позиция совпадает с конкретным поведением рынка. Канадские банки, включая BMO, CIBC, RBC и TD, заблокировали персональных AI-агентов, сославшись на безопасность и защищённость, а Bank of America предупредил клиентов о недопустимости передачи паролей AI-агентам. В каждом случае заявленная обеспокоенность касается контроля над тем, что агент может делать с учётными данными, а не личности разработчика агента.

Дискуссия также разворачивается на фоне того, что NIST предлагает принципы идентификации и управления доступом для агентов, что указывает на тот же вывод со стороны стандартов: агентам нужна собственная проверяемая идентичность, ограниченные по области действия разрешения и аудируемая запись того, на что они были уполномочены. Из предоставленных материалов остаётся неясным точный охват блокирующих мер в каждом канадском банке и будет ли предложение NIST иметь обязательную силу. Для команд, выпускающих агентов для работы с финансовыми счетами, практическая работа заключается в проектировании мандатов, ограничении разрешений и подтверждении авторизации.

Давайте поговорим!