Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Оркестрация агентов требует планировщика, а не супервизора
Единый супервизор сериализует рой и скрывает реальное узкое место: контроль допуска, очередь и вытеснение. Относитесь к агентам как к процессам — и режимы отказа становятся видимыми.
Безопасность агентов — это проблема бокового перемещения, а не промптов
Как только агенты получают учётные данные и вызывают инструменты, их модель безопасности — это модель привилегированной рабочей нагрузки. Оценивайте их теми же методами.
Оркестрация агентов требует планировщика, а не фреймворка
Примитивы управления в стиле Kubernetes — допуск, квоты, вытеснение — переносятся на рои агентов полезнее, чем любой новый DSL для агентов.
Человеческий консьерж — это бюджет задержки, а не уровень безопасности
Эскалация к человеческому консьержу — это решение о пропускной способности и задержке. Моделируйте её как задачу теории массового обслуживания, а не как функцию доверия, прикрученную постфактум.
Кампании иностранного влияния — это проблема пропускной способности агентов
Скоординированное недостоверное поведение в масштабе агентов побеждается не столько классификацией контента, сколько контролем частоты, идентичности и графа, который делает автоматизацию дорогостоящей для поддержания.
Агентам-соучёным нужен реестр утверждений, а не журнал чата
Разговорные транскрипты не являются научной записью. Исследовательские агенты должны выдавать структурированные, проверяемые утверждения со ссылками на доказательства и явной уверенностью.
Манипуляция между агентами — это проблема протокола
Когда один агент может изменить план другого непроверенным утверждением, изъян кроется в протоколе, а не в модели. Теги происхождения, независимая проверка и лимиты на повторные утверждения сдерживают это.
Технический долг в агентных системах накапливается в промптах
Кодовые базы агентов гниют иначе: долг концентрируется в промптах, схемах инструментов и неявных соглашениях, которые не проверяет ни один компилятор.
Долгосрочная обработка превращает управление контекстом в задачу планирования
Большее окно контекста не устраняет ограничение; оно превращает сборку контекста в решение о планировании: что загружать, когда и какой ценой.