Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Стоимость телеметрии — это переменная проектирования агента, а не статья расходов на инфраструктуру
Нагрузки агентов умножают расходы на наблюдаемость, потому что каждый шаг порождает трассировки, логи и метрики. Решение — политика сэмплирования и хранения, разработанная вместе с агентом.
Модели оценки решений не отменяют реестр политик
Модели оценки сжимают политику в веса, но не заменяют версионируемый реестр решений, который делает оценку управляемой.
Модели доказательств и модели решений — это разные артефакты
Принятие решений и оценка — это отдельные роли в проектировании. Когда одна модель выполняет обе, оценки наследуют слепые зоны исполнителя и перестают быть надёжными.
Модели принятия решений — это бюджет задержки, а не слой управления
Малые модели принятия решений снижают задержку на каждом шаге, но они решают задачу маршрутизации, а не авторизации. Смешение этих понятий уничтожает аудиторский след, необходимый при инцидентах.
Модели принятия решений — не политики-движки: что 2B-роутер может и не может обеспечивать
Дешёвые модели принятия решений, такие как Strands Decider и Clef, — это примитивы маршрутизации, а не поверхности управления. Рассмотрение быстрого классификатора как точки принуждения не устраняет режим отказа, а перемещает его.
Арбитраж на устройстве: что агент никогда не должен отправлять наверх
Выбор того, какие шаги агента покидают устройство, — это компромисс между классификацией данных на этапе проектирования и задержкой, а не фильтр приватности во время выполнения.
Агентам на рынках предсказаний нужен реестр расчётов, а не оценка уверенности
Когда агент открывает позицию, его вероятностный вывод становится обязательством по расчёту. Значимый артефакт — это реестр расчётов по каждому утверждению с указанием происхождения данных, а не калиброванное число.
Человеческий консьерж — это резервный путь, а не функция
Маршрутизация сбоев агента к человеку работает только тогда, когда контракт эскалации явно определён: какое состояние передаётся, что оператор может изменить и как исправление возвращается агенту.
Агентам-соучёным нужен реестр утверждений, а не журнал чата
Разговорные транскрипты не являются научной записью. Исследовательские агенты должны выдавать структурированные, проверяемые утверждения со ссылками на доказательства и явной уверенностью.