Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Контейнмент на основе политик: что может и чего не может решать OS-энфорсер
Контейнмент на уровне хоста обеспечивает соблюдение границ ресурсов и файловой системы, но не может судить, была ли авторизована операция агента. Разделяйте слои принуждения и авторизации.
Кто проверяет проверяющего: режимы ответственности предполагают бумажный след, которого агенты не оставляют
Режимы ответственности предполагают наличие атрибутируемой записи о решении. Текущие архитектуры агентов порождают траектории, которые невозможно восстановить до единственного ответственного шага.
Бюджеты исходящего трафика агента: скорость — не то же самое, что охват
Лимиты скорости ограничивают, как быстро действует агент, но не куда. Контроль исходящего трафика должен быть бюджетом назначений и возможностей, применяемым на прокси и сверяемым после каждого запуска.
Идентичность без намерения: почему выдача учётных данных агентам их не ограничивает
Аутентификация агента и ограничение области действия его токена не определяют, что он делает в последовательности вызовов инструментов. Политика на уровне намерения, оцениваемая для каждой траектории, — это контроль, который закрывает разрыв композиции.