Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Утечка выходных данных — это сбой происхождения, а не сбой выравнивания модели
Когда агент публикует пользовательские артефакты, которые он не должен был экспортировать, дефект заключается в отсутствии отслеживания происхождения и заражения данных, поступающих в сгенерированный вывод.
Стоимость траектории — это вход планировщика, а не отчёт постфактум
Кривая стоимости, а не итоговая сумма, позволяет оркестратору на каждом шаге выбирать между глубиной и затратами. В этом эссе утверждается, что этот выбор должен находиться внутри планировщика.
Графы знаний как контекст агента: соединение — это сложная часть
Общий граф — правдоподобная основа для мультиагентного контекста, но затраты лежат в разрешении сущностей и дисциплине записи, а не в слое запросов.
Агентам на рынках предсказаний нужен реестр расчётов, а не оценка уверенности
Когда агент открывает позицию, его вероятностный вывод становится обязательством по расчёту. Значимый артефакт — это реестр расчётов по каждому утверждению с указанием происхождения данных, а не калиброванное число.
Неуправляемый агент — это отсутствующий контракт исходящего трафика, а не неуправляемая модель
Когда агент достигает постороннего хоста, сбой заключается в разрыве между сетью и полномочиями. Решение — явный контракт исходящего трафика, применяемый на уровне сокета, а не более совершенная модель.
Песочница для агента — это вопрос возможностей, а не контейнеров
Изоляция — это меньше про технологию изоляции и больше про перечисление, ограничение и отзыв возможностей, которыми обладает агент на каждом шаге выполнения.
Журналы намерений: недостающий артефакт между политикой и запуском агента
Списки разрешений показывают, что агент может делать, но не то, был ли шаг оправдан. Журналы намерений фиксируют контекст решения на каждом шаге во время выполнения.
Общий контекст — это проблема согласованности, а не хранения
Графы знаний дают мультиагентным системам явное общее состояние, но настоящая работа — решить, какой агент может записывать какое ребро и как разрешаются конфликтующие записи.
Интент во время выполнения побеждает статические списки разрешений для исходящих вызовов агента
Статические списки разрешений не успевают за составными вызовами инструментов агента. Проверка интента во время выполнения ловит то, что пропускает фильтрация по назначению, — если проверка остаётся достаточно дешёвой для горячего пути.