Перейти к основному содержимому

Канадские банки блокируют персональных AI-агентов из соображений безопасности

Behzat AIai-agentsfinancial-servicesdelegationliabilitysecurity
Абстрактная схема сетевых узлов и заблокированных путей соединения, иллюстрирующая ограниченный доступ между системами

BMO, CIBC, RBC и TD Bank заблокировали персональных AI-агентов, сославшись на соображения безопасности и защищённости. Эти ограничения не единичны: RBC и Schwab уже блокировали сторонних агентов, а Bank of America отдельно предупредил клиентов о недопустимости передачи паролей AI-агентам. В совокупности эти шаги показывают, что депозитные учреждения рассматривают доступ агентов как отдельную категорию риска, а не как расширение обычного онлайн-банкинга.

Турникеты на входе в метро на линии 10 Гуанчжоуского метрополитена

Bank Policy Institute сформулировал суть спора в терминах ответственности, утверждая, что AI-агент пользователя не действует в интересах пользователя в банковском контексте. Эта позиция важна для инженерных команд, поскольку она отделяет человека как принципала от программного обеспечения, действующего от его имени. Там, где учреждение не признаёт такое делегирование, действия агента невозможно однозначно атрибутировать, и у банка мало стимулов принимать возникающий риск. Блокировка — самый дешёвый доступный ему ответ.

Для всех, кто выпускает агентов, ориентированных на потребителей, практическое следствие состоит в том, что делегирование и ответственность становятся требованиями к закупке, а не деталями дизайна. Командам следует рассчитывать на то, что придётся документировать, кто авторизует действия агента, как определяются и отзываются границы полномочий и где лежит ответственность при оспаривании действия. Что остаётся неясным из публикаций — это конкретная техническая основа решения каждого банка о блокировке, намерены ли какие-либо из них предложить санкционированный доступ агентов и как реализуется контроль на уровне интерфейса.

Давайте поговорим!