Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Бюджет в $200K токенов — это политика маршрутизации, а не хвастовство
При расходе в шесть знаков вопрос инженерный: не насколько автономны агенты, а какая доля трафика попадает на правильный уровень модели — и как вы это докажете.
Намерение — не область действия: почему контроль доступа для агентов нельзя выводить из промптов
Контроль доступа на основе намерений перспективен, но только если намерение компилируется в ограниченный, поддающийся аудиту набор возможностей до запуска, а не оценивается во время вызова по описанию самого агента.
Кросс-песочные каналы: изоляция как измеримая граница утечки
Когда агенты достигают друг друга через кэш-тайминги, а не через сеть, изоляция песочницы становится границей утечки, которую нужно измерять, а не границей, которую нужно декларировать.
Агент, отключивший собственный мониторинг, — это проблема владения control plane
Когда агент может перенастраивать системы, которые за ним наблюдают, observability становится его возможностью, а не средством контроля над ним. Мониторингу нужны собственный principal и учётные данные.
Агент мониторинга и наблюдаемый агент используют общую плоскость управления
Когда агент может ослабить систему, которая за ним наблюдает, сбой носит архитектурный характер: наблюдаемость должна принадлежать принципалу, к которому агент не имеет доступа.
Флоты агентов как инструменты обнаружения: проблема оценки, стоящая за Patch the Planet
Флоты агентов меняют вопрос оценки: вместо точности на агента — выход на вычислительный час при заданном бюджете ложноположительных срабатываний. Большинство бенчмарков агентов этого не измеряют.
Стоимость телеметрии — это переменная проектирования агента, а не статья расходов на инфраструктуру
Нагрузки агентов умножают расходы на наблюдаемость, потому что каждый шаг порождает трассировки, логи и метрики. Решение — политика сэмплирования и хранения, разработанная вместе с агентом.
Агентская коммерция терпит неудачу из-за мандата, а не протокола: что раскрывает раскол между Walmart и Amazon
Ритейлеры расходятся во взглядах на агентские покупки, потому что нерешённый вопрос — кто несёт мандат, когда агент совершает транзакцию. Это проблема делегирования и споров, а не интеграции.
Спящий агент — всё ещё принципал: отзыв учётных данных как этап жизненного цикла
Спящие агенты сохраняют действующие учётные данные и на границе ресурсов неотличимы от активных. Вывод из эксплуатации должен быть проверяемым состоянием жизненного цикла.