Заметки о построении агентных систем
Стенды для оценки, паттерны оркестрации, проектирование памяти и стоящие за ними неудачи — описано, пока детали ещё свежи.
Поверхности инструментов — это проблема схемы: типизированные аргументы важнее умных промптов
Большинство сбоев при использовании инструментов агентом вызвано недостаточно определёнными схемами, а не слабым рассуждением. Относитесь к интерфейсу инструмента как к главному рычагу надёжности.
Поверхности инструментов — это задача проектирования интерфейса, а не задача обёртки
Неправильное использование инструментов агентом обычно начинается с интерфейса: человеческие API, обёрнутые в JSON, скрывают частичный сбой и лишены терминальной семантики ошибок. Проектирование поверхностей, ориентированных на машину, исправляет это.
Агентам не нужно больше автономии — им нужны более узкие поверхности инструментов
Большинство случаев выхода агента за рамки начинается с интерфейса инструментов, а не с модели. Сужение поверхности, которую вызывает агент, даёт больший эффект, чем оборачивание её в guardrails.