Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Флоты агентов как инструменты обнаружения: проблема оценки, стоящая за Patch the Planet
Флоты агентов меняют вопрос оценки: вместо точности на агента — выход на вычислительный час при заданном бюджете ложноположительных срабатываний. Большинство бенчмарков агентов этого не измеряют.
Kill switch предполагает один процесс: семантика завершения для флотов агентов
Kill switch и обещания изоляции предполагают один управляемый процесс на агента. Развёрнутый флот — это граф родителей, потомков, сессий инструментов и lease-ов, и ему нужен протокол завершения, а не выключатель.
MCP для связи агент-агент: относитесь к транспорту как к поверхности атаки
Протоколы взаимодействия агентов наследуют допущения о доверии от слоя вызова инструментов, который они расширяют, поэтому подлинность сообщений и ограничение области действия возможностей должны быть заложены в транспорт, а не прикручены к агентам.
Кто проверяет проверяющего: режимы ответственности предполагают бумажный след, которого агенты не оставляют
Режимы ответственности предполагают наличие атрибутируемой записи о решении. Текущие архитектуры агентов порождают траектории, которые невозможно восстановить до единственного ответственного шага.
OpenShell лечит симптом: безопасности агентов нужны контракты, а не аварийные выключатели
Изоляция во время выполнения может остановить сбойного агента, но без заранее объявленного контракта разрешённых действий это ограничение ущерба, а не предотвращение.
Что на самом деле ломается при масштабировании роя LLM-агентов
Мультиагентные системы отказывают не столько из-за возможностей модели, сколько из-за механики координации. Взгляд на общее состояние, протоколы передачи и компромиссы параллелизма.
Инструментирование декомпозиции: почему стоимость траектории агента — это метрика планировщика
Стоимость запуска сообщается как общее число токенов, но доминирующая переменная — то, как планировщик декомпозировал задачу. Учёт по узлам плана превращает бюджетирование во входные данные для планирования.
Роям агентов нужен контракт обнаружения, а не общая база данных
В масштабе роя сложная задача — договориться о том, как факты именуются, версионируются и выводятся из обращения. Контракт обнаружения должен предшествовать любому общему хранилищу.
Роевым агентам нужны бюджеты скорости, а не только бюджеты запросов
Долгоживущие рои исчерпывают терпимость третьих сторон к запросам раньше, чем токены. Оркестрация должна планировать работу с учётом лимитов скорости для каждой цели, применяемых на выходе.