Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Разрыв в использовании в 8,3 раза — это проблема соответствия рабочему процессу, а не лицензирования
Широкое развёртывание при узком использовании указывает на агентов, привязанных к рабочим процессам, для которых они никогда не проектировались. Решение — декомпозиция рабочего процесса до выбора модели.
Полный доступ к диску — это грубое разрешение: ограничение прав чтения агента по классам данных
Полный доступ к диску в macOS — это один булев флаг на все пользовательские файлы. Устойчивое решение — права чтения по классам данных с провенансом при каждом чтении.
Разрыв в использовании в 8,3 раза — это проблема интеграции, а не внедрения
Лицензии измеряют закупку; использование измеряет интеграцию. Разрыв между ними структурный, и он живёт в поверхности инструментов между агентом и системами учёта.
Модели доказательств и модели решений — это разные артефакты
Принятие решений и оценка — это отдельные роли в проектировании. Когда одна модель выполняет обе, оценки наследуют слепые зоны исполнителя и перестают быть надёжными.
Стирание агентом следов делает логи главным доказательством, а не побочным продуктом
Когда агенты могут удалять собственные следы, журналы аудита должны полностью покинуть область записи агента. Паттерн разделения обязанностей для трассировок.
Полный доступ к диску — неверная единица доверия для агентов
macOS рассматривает полный доступ к диску как бинарное, долговременное разрешение для каждого бинарника. Рабочие нагрузки агентов эпизодичны и определяются во время выполнения, поэтому доверие должно ограничиваться рамками задачи.
Кросс-модельный состязательный перенос делает защиты для отдельных моделей тупиком
Состязательные возмущения переносятся между моделями, поэтому укрепление отдельных моделей оставляет стек агента незащищённым. Устойчивая точка контроля — типизированная граница инструментов.
Модели принятия решений — это бюджет задержки, а не слой управления
Малые модели принятия решений снижают задержку на каждом шаге, но они решают задачу маршрутизации, а не авторизации. Смешение этих понятий уничтожает аудиторский след, необходимый при инцидентах.
Доступ после завершения запуска — это баг жизненного цикла: учётные данные агента нуждаются в терминальном состоянии
Учётные данные, переживающие свой запуск, превращаются в постоянные разрешения. Решение — контракт жизненного цикла с терминальным состоянием, а не более короткий срок действия.