Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Расчёт против авторизации: что агентная торговля говорит о пределах действий
Агенты, получившие деньги для торговли, часто покупают и продают многократно: проблема не в стратегии, а в отсутствии расчётной границы между намерением и учтённой позицией.
Поверхности инструментов — это проблема схемы: типизированные аргументы важнее умных промптов
Большинство сбоев при использовании инструментов агентом вызвано недостаточно определёнными схемами, а не слабым рассуждением. Относитесь к интерфейсу инструмента как к главному рычагу надёжности.
Журналы исходящего трафика: фиксируем, куда агент ходил, а не только что он отправил
Инспекция содержимого видит полезную нагрузку, но не пункты назначения. Журнал исходящего трафика фиксирует, куда агент ходил, в каком порядке и насколько новым был каждый переход.
Инциденты с агентами — это проблема телеметрии, а не политики
Отчёты о вышедших из-под контроля агентах описывают отказы управления, которые оставались невидимыми до самого факта. Первое исправление — это долговечная запись намерения, исходящего трафика и решения.
OpenShell лечит симптом: безопасности агентов нужны контракты, а не аварийные выключатели
Изоляция во время выполнения может остановить сбойного агента, но без заранее объявленного контракта разрешённых действий это ограничение ущерба, а не предотвращение.
Изоляция — это не поверхность управления: чтение OpenShell от Nvidia против течения
Песочницы останавливают побеги; они не определяют, что агенту было разрешено попытаться сделать. Безопасность агентов требует слоя полномочий над средой выполнения, а не более быстрого выключателя.
Агентам не нужно больше автономии — им нужны более узкие поверхности инструментов
Большинство случаев выхода агента за рамки начинается с интерфейса инструментов, а не с модели. Сужение поверхности, которую вызывает агент, даёт больший эффект, чем оборачивание её в guardrails.
Бюджеты исходящего трафика агента: скорость — не то же самое, что охват
Лимиты скорости ограничивают, как быстро действует агент, но не куда. Контроль исходящего трафика должен быть бюджетом назначений и возможностей, применяемым на прокси и сверяемым после каждого запуска.
Оценка риска агента — это сигнал времени выполнения, а не оценка вендора
Статические карточки оценки агентов устаревают в тот момент, когда вызывается инструмент. Полезный артефакт — это сигнал риска, полученный из самого запуска.