Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Модели принятия решений — это бюджет задержки, а не слой управления
Малые модели принятия решений снижают задержку на каждом шаге, но они решают задачу маршрутизации, а не авторизации. Смешение этих понятий уничтожает аудиторский след, необходимый при инцидентах.
Инциденты с агентами — это проблема телеметрии, а не политики
Отчёты о вышедших из-под контроля агентах описывают отказы управления, которые оставались невидимыми до самого факта. Первое исправление — это долговечная запись намерения, исходящего трафика и решения.
Кто проверяет проверяющего: режимы ответственности предполагают бумажный след, которого агенты не оставляют
Режимы ответственности предполагают наличие атрибутируемой записи о решении. Текущие архитектуры агентов порождают траектории, которые невозможно восстановить до единственного ответственного шага.
Журналы намерений: недостающий артефакт между политикой и запуском агента
Списки разрешений показывают, что агент может делать, но не то, был ли шаг оправдан. Журналы намерений фиксируют контекст решения на каждом шаге во время выполнения.
Потребительским агентам нужен реестр согласий, а не страница настроек
Переключатель в настройках фиксирует состояние, а не объём, контрагента и срок действия. Агентам, действующим от имени пользователя, нужен реестр согласий — только на добавление и с подписью.