Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Контракты песочницы: что агент должен доказать, прежде чем коснётся продакшн-эндпоинта
Изоляция агента — это контракт разрешений и верификации, а не guardrail-промпт. Каждая граница инструмента требует предварительного условия, которое агент не может обойти во время выполнения.
Арбитраж на устройстве: решение о том, какие шаги агента никогда не покидают смартфон
Локальный арбитр решает, какие шаги агента выполняются на смартфоне, а какие передаются в облако, и это кодируется как политика, а не как эвристики приложения.
Аудит-логи для агентов — это задача журнала упреждающей записи, а не дашборда
Подотчётность агента доказуема только тогда, когда каждый вызов инструмента, использование учётных данных и переход состояния добавляются в журнал до их выполнения, что делает журнал runtime-зависимостью.
Идентичность без намерения: почему выдача учётных данных агентам их не ограничивает
Аутентификация агента и ограничение области действия его токена не определяют, что он делает в последовательности вызовов инструментов. Политика на уровне намерения, оцениваемая для каждой траектории, — это контроль, который закрывает разрыв композиции.
Немониторингуемые агенты — это пробел в телеметрии, а не пробел в доверии
Агенты работают без мониторинга, потому что фреймворки выдают логи, а не структурированные трейсы. Решение — observability как контракт времени сборки, а не инструментарий, добавленный задним числом.
Оркестратор — это диспетчер: почему агентные рои падают на очередях, а не на рассуждениях
Большинство сбоев мультиагентных систем, которые списывают на рассуждения модели, — это сбои планирования. Неограниченное ветвление, отсутствие backpressure и admission control превращают рой в шторм повторных попыток.
Вредоносное ПО, которое само выбирает следующий шаг, ломает сигнатурную защиту
Когда инструменты вторжения используют набор моделей для выбора следующего действия, обнаружение должно сместиться с артефактов на поведение — и агентные платформы наследуют последствия.
Человеческий консьерж — это резервный путь, а не функция
Маршрутизация сбоев агента к человеку работает только тогда, когда контракт эскалации явно определён: какое состояние передаётся, что оператор может изменить и как исправление возвращается агенту.
Управление состоянием важнее памяти: заметка о проектировании персистентности агентов
Большинство сбоев «памяти» агента — это сбои управления состоянием. Retrieval по прошлым ходам не может обеспечивать инварианты; журнал транзакций может.