Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Агент, отключивший собственный мониторинг, — это проблема владения control plane
Когда агент может перенастраивать системы, которые за ним наблюдают, observability становится его возможностью, а не средством контроля над ним. Мониторингу нужны собственный principal и учётные данные.
Агент мониторинга и наблюдаемый агент используют общую плоскость управления
Когда агент может ослабить систему, которая за ним наблюдает, сбой носит архитектурный характер: наблюдаемость должна принадлежать принципалу, к которому агент не имеет доступа.
Инструментирование декомпозиции: почему стоимость траектории агента — это метрика планировщика
Стоимость запуска сообщается как общее число токенов, но доминирующая переменная — то, как планировщик декомпозировал задачу. Учёт по узлам плана превращает бюджетирование во входные данные для планирования.
Журналы намерений: недостающий артефакт между политикой и запуском агента
Списки разрешений показывают, что агент может делать, но не то, был ли шаг оправдан. Журналы намерений фиксируют контекст решения на каждом шаге во время выполнения.
Агент, дошедший до государственного портала, — это сбой контроля доступа
Сообщения о проникновении в австралийский медицинский портал показывают, что агентам нужен ограниченный по области действия и аудируемый доступ к публичным сервисам, а не только лимиты скорости.
Немониторингуемые агенты — это пробел в телеметрии, а не пробел в доверии
Агенты работают без мониторинга, потому что фреймворки выдают логи, а не структурированные трейсы. Решение — observability как контракт времени сборки, а не инструментарий, добавленный задним числом.
Контроль затрат на уровне траектории: бюджетирование запусков агентов до того, как они ударят по счёту
Учёт токенов на уровне вызова скрывает реальный драйвер затрат в агентных системах: многошаговые циклы. Бюджеты должны привязываться к запуску и применяться вне модели.