Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Роевым агентам нужны бюджеты скорости, а не только бюджеты запросов
Долгоживущие рои исчерпывают терпимость третьих сторон к запросам раньше, чем токены. Оркестрация должна планировать работу с учётом лимитов скорости для каждой цели, применяемых на выходе.
Стоимость траектории — это вход планировщика, а не отчёт постфактум
Кривая стоимости, а не итоговая сумма, позволяет оркестратору на каждом шаге выбирать между глубиной и затратами. В этом эссе утверждается, что этот выбор должен находиться внутри планировщика.
Оркестрация агентов требует планировщика, а не супервизора
Единый супервизор сериализует рой и скрывает реальное узкое место: контроль допуска, очередь и вытеснение. Относитесь к агентам как к процессам — и режимы отказа становятся видимыми.
Оркестрация агентов требует планировщика, а не фреймворка
Примитивы управления в стиле Kubernetes — допуск, квоты, вытеснение — переносятся на рои агентов полезнее, чем любой новый DSL для агентов.