Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Идентичность агентов — это проблема каталога: читаем Descope и ServiceNow бок о бок
Паспорта и хабы предполагают, что разрешаемый принципал уже существует. Именно реестр, а не формат учётных данных, — тот артефакт, которого не хватает предприятиям.
Модели оценки решений не отменяют реестр политик
Модели оценки сжимают политику в веса, но не заменяют версионируемый реестр решений, который делает оценку управляемой.
Контейнмент на основе политик: что может и чего не может решать OS-энфорсер
Контейнмент на уровне хоста обеспечивает соблюдение границ ресурсов и файловой системы, но не может судить, была ли авторизована операция агента. Разделяйте слои принуждения и авторизации.
Трафик агентов — это не веб-трафик: контракт на допуск для машинных клиентов
Если относиться к агентам как к более быстрым людям, это ломает ограничения скорости и сервисы-источники. Контракт на допуск на периферии — заявленная цель, бюджет, отзыв — делает машинных клиентов подотчётными.
MCP для связи агент-агент: относитесь к транспорту как к поверхности атаки
Протоколы взаимодействия агентов наследуют допущения о доверии от слоя вызова инструментов, который они расширяют, поэтому подлинность сообщений и ограничение области действия возможностей должны быть заложены в транспорт, а не прикручены к агентам.
Область чтения агента: почему полный доступ к диску — неверный примитив для раскрытия данных
Права доступа к файловой системе не могут выразить, что агент намеревается делать с данными. Область чтения следует выдавать по классу данных и цели запроса, а не по корню файловой системы.
LLM-судья — это версионируемая зависимость: как снизить затраты на пайплайны оценки, не потеряв сопоставимость
Более дешёвый LLM-судья оправдан только в том случае, если он версионируется, фиксируется и проходит регрессионное тестирование, как любая другая зависимость; иначе экономия оплачивается потерей сопоставимости между запусками.
Разрыв в использовании в 8,3 раза: внедрение агентов на предприятиях — это проблема соответствия рабочим процессам
Разрыв между количеством лицензий на ИИ и фактическим использованием агентов указывает на изъян в проектировании рабочих процессов, а не на провал закупок или обучения. Агент должен отвечать за конкретное решение внутри рабочего процесса.
Агентский чекаут ломает модель авторизации мерчанта, а не его запасы
Блокировка торговых агентов — это не враждебность к автоматизации. Это рациональный ответ на платёжный инструмент, который приходит без проверяемой записи о согласии.