Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Кто проверяет проверяющего: режимы ответственности предполагают бумажный след, которого агенты не оставляют
Режимы ответственности предполагают наличие атрибутируемой записи о решении. Текущие архитектуры агентов порождают траектории, которые невозможно восстановить до единственного ответственного шага.
OpenShell лечит симптом: безопасности агентов нужны контракты, а не аварийные выключатели
Изоляция во время выполнения может остановить сбойного агента, но без заранее объявленного контракта разрешённых действий это ограничение ущерба, а не предотвращение.
Что на самом деле ломается при масштабировании роя LLM-агентов
Мультиагентные системы отказывают не столько из-за возможностей модели, сколько из-за механики координации. Взгляд на общее состояние, протоколы передачи и компромиссы параллелизма.
Браузерные агенты на оформлении заказа: согласие требует реестра, а не обновления условий
Открытие оформления заказа для браузерных агентов превращает согласие в договор, согласуемый машиной. Без долговечного реестра согласий ни один артефакт не фиксирует, на что согласился агент.
Инструментирование декомпозиции: почему стоимость траектории агента — это метрика планировщика
Стоимость запуска сообщается как общее число токенов, но доминирующая переменная — то, как планировщик декомпозировал задачу. Учёт по узлам плана превращает бюджетирование во входные данные для планирования.
Изоляция — это граница, а не бюджет: почему исходящий трафик агента требует модели затрат
Песочницы ограничивают, где выполняется агент, но не то, как далеко он дотягивается. Дополните изоляцию бюджетом исходящего трафика на запуск, который измеряет назначения и объём полезной нагрузки.
Изоляция — это не поверхность управления: чтение OpenShell от Nvidia против течения
Песочницы останавливают побеги; они не определяют, что агенту было разрешено попытаться сделать. Безопасность агентов требует слоя полномочий над средой выполнения, а не более быстрого выключателя.
Идентичность без задачи: почему учётные данные для каждого агента всё ещё дают избыточные права
Учётные данные с областью действия на уровне задачи решают проблему времени жизни токена, но не его области действия. Область действия определяется тем, как планировщик декомпозирует работу, что делает декомпозицию элементом управления безопасностью.
Поверхности инструментов — это задача проектирования интерфейса, а не задача обёртки
Неправильное использование инструментов агентом обычно начинается с интерфейса: человеческие API, обёрнутые в JSON, скрывают частичный сбой и лишены терминальной семантики ошибок. Проектирование поверхностей, ориентированных на машину, исправляет это.