Глава службы безопасности Microsoft заявил, что ИИ «нельзя доверять» и что ИИ-агентам предоставляют слишком много полномочий, сообщает TweakTown. Это заявление прозвучало одновременно с сообщениями о том, что крупные банки США ограничили или заблокировали доступ сторонних ИИ-агентов к счетам клиентов из-за рисков безопасности (WJET/WFXP, KMOV). Оба сигнала указывают на одну и ту же проблему: права доступа, предоставляемые агентам, сейчас опережают гарантии, которые поставщики готовы дать в отношении них.
Поставщики движутся в сторону уровня идентификации. IBM сделала идентификацию агентов общедоступной, объединив средства контроля времени выполнения с HashiCorp Vault для учётных данных агентов (IBM, Techzine Global). Эта схема — ограниченные учётные данные, принудительное применение в процессе выполнения, проверяемая идентификация для каждого агента — и есть та форма контроля, которую запрашивают регулируемые покупатели. Она также меняет сам вопрос о развёртывании: не о том, может ли агент выполнить задачу, а о том, к чему ему разрешён доступ, под чьей идентификацией и какие доказательства при этом остаются.
Коммерческие последствия уже видны. Аналитики отметили влияние на выручку от поведения, обусловленного агентами: Mizuho указала на риск для выручки Circle до 20% (The Block). Для команд, внедряющих агентов в финансовый сектор, ограничением теперь является подтверждение соответствия, а не функциональность. Из публикаций остаётся неясным, какой именно набор средств контроля банки примут до снятия ограничений и удовлетворят ли инструменты идентификации агентов от инфраструктурных поставщиков эти проверки без индивидуальной интеграции.