Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Изоляция — это граница, а не бюджет: почему исходящий трафик агента требует модели затрат
Песочницы ограничивают, где выполняется агент, но не то, как далеко он дотягивается. Дополните изоляцию бюджетом исходящего трафика на запуск, который измеряет назначения и объём полезной нагрузки.
Изоляция — это не поверхность управления: чтение OpenShell от Nvidia против течения
Песочницы останавливают побеги; они не определяют, что агенту было разрешено попытаться сделать. Безопасность агентов требует слоя полномочий над средой выполнения, а не более быстрого выключателя.
Побег из песочницы — это проблема бюджета возможностей
Сбои изоляции в агентных системах — это неверно оценённые предоставленные возможности, а не отсутствующие джейлбрейки. Поверхность контроля — это бюджет на достижимые системы для каждого запуска.
Контракты песочницы: что агент должен доказать, прежде чем коснётся продакшн-эндпоинта
Изоляция агента — это контракт разрешений и верификации, а не guardrail-промпт. Каждая граница инструмента требует предварительного условия, которое агент не может обойти во время выполнения.