Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Модели принятия решений сжимают политику, которую вы уже написали; они её не пишут
Малые модели принятия решений — это оптимизация задержки и стоимости поверх уже существующей поверхности политик. Рассматривать их как место, где политика определяется, — категориальная ошибка с последствиями для ревью, композиции и безопасности.
Кнопка отмены — это проблема состояния: обратимость как ограничение проектирования агента
Обратимость — это не элемент интерфейса. Это свойство того, как каждый инструмент записывает состояние, и его нужно проектировать для каждого инструмента до предоставления автономии.
Отчёты о rogue-агентах — это проблема атрибуции, а не безопасности
В отчётах об инцидентах указывается модель, но практически значимый артефакт — это цепочка делегирования, санкционировавшая запуск. Большинство стеков не могут её восстановить.
Расчёт против авторизации: что агентная торговля говорит о пределах действий
Агенты, получившие деньги для торговли, часто покупают и продают многократно: проблема не в стратегии, а в отсутствии расчётной границы между намерением и учтённой позицией.
Асимметрия устранения последствий: почему реагирование на инциденты предполагает оператора, которого не существует
Инциденты с автономными агентами обнажают пробел: плейбуки предполагают одного ответственного оператора, но ответственность распределена между вендорами, фреймворками, интеграторами и пользователями.
Сохранение доступа после завершения запуска: почему учётные данные агента живут дольше своей задачи
Учётные данные агента часто остаются действительными после завершения задачи. Реальный разрыв — между завершением запуска и истечением срока действия учётных данных, а не между наймом и увольнением.
Модели принятия решений — не политики-движки: что 2B-роутер может и не может обеспечивать
Дешёвые модели принятия решений, такие как Strands Decider и Clef, — это примитивы маршрутизации, а не поверхности управления. Рассмотрение быстрого классификатора как точки принуждения не устраняет режим отказа, а перемещает его.
Надёжного выполнения недостаточно: чекпоинтинг в стиле Restate и интент, который он теряет
Чекпоинтинг сохраняет состояние, но не интент. Возобновлённый запуск агента может завершиться чисто, действуя при этом за пределами своих исходных полномочий. Надёжному выполнению нужен зафиксированный контекст решения.
Поверхности инструментов — это проблема схемы: типизированные аргументы важнее умных промптов
Большинство сбоев при использовании инструментов агентом вызвано недостаточно определёнными схемами, а не слабым рассуждением. Относитесь к интерфейсу инструмента как к главному рычагу надёжности.