Ставка на рои
— В процессе написания

Я не делаю ставку на более крупный мозг. Я делаю ставку на более умную толпу. Это и есть ставка, которая организует всё, что я строю сейчас: интеллект — не свойство отдельной модели, он возникает из структурированного взаимодействия множества.

Это не метафора, которую я позаимствовал из доклада. Это паттерн, который я наблюдал на трёх масштабах. В TÜBİTAK я моделировал динамику белков — мутацию F876L в андрогеновом рецепторе, которая превращает противораковый препарат из ингибитора в агонист — и видел, как изменение одного остатка распространяется по свёрнутой молекуле. Затем в коннектомике я строил модели, которые восстанавливают проводку мозга по грубым сканам — миллиарды слабо связанных специалистов, порождающих связную мысль. Сейчас, как инженер LLM и агентного ИИ, я строю тот же паттерн на уровне программных агентов.

«Целое становится умнее любой из своих частей — я наблюдал это на уровне свёрнутого белка, затем на уровне графа мозга, и сейчас я строю это на уровне агентов.»

Режим отказа одиночных агентов

Один агент — это одно узкое место, одна точка отказа, одно предположение. Он держит весь контекст, принимает все решения, и когда он ошибается — он ошибается с полной уверенностью. Масштабировать это означает масштабировать единственный режим отказа. Отраслевой шаблон «бросить модель побольше в цикл» — это именно тупик: никто не выигрывает, масштабируя одно узкое место.

Что на самом деле заставляет рой работать

• Общие цели — каждый агент знает, что значит “готово”, поэтому работа компонуется.
• Декомпозиция задач — рой разделяет проблему по её естественным швам, а не произвольно.
• Переговоры — агенты не перезаписывают друг друга; они согласовывают.
• Верификатор — цикл проверяет, что работа действительно была выполнена. Нет верификации — нет роя, только параллельные галлюцинации.

Рои — это инженерная дисциплина, а не вайб. Дисциплина такова: декомпозируй, делегируй, верифицируй, итерируй — и публикуй неудачи. Эмерджентность, которую все превозносят, — это то, что получаешь, когда слой координации скучен и корректен.

“Один агент — это цикл с целью. Рой — это цикл с нервной системой.”

Так что да — я ставлю на рои. Не потому что это модно, а потому что устойчивость, масштабируемость и коллективное рассуждение — единственные ответы на потолок одиночного агента, и я видел, как этот паттерн подтверждается на каждом уровне интеллекта, который я изучал.

Человеческий мозг — самый сложный граф, который нам известен, и это не одна модель. Это миллиарды крошечных, наполовину информированных агентов, которые в споре приходят к ответу. До того как я начал строить агентов, я строил системы, предсказывающие эту проводку: суперразрешение для коннектомики, восстановление матриц связности мозга высокого разрешения из грубых зашумлённых сканов (выпущено в открытый доступ как датасет CC0 на Kaggle). Это научило меня пяти правилам проектирования мультиагентных систем.

1 · Разреженная связность — это фича, а не баг

Мозг получает богатое поведение за счёт избирательной проводки — большинство нейронов соединяются с несколькими тысячами из своих миллиардов соседей. Урок для агентов: не соединяйте всё со всем. Маршрутизируйте продуманно. Полносвязный граф агентов — это не интеллект; это шум с дополнительной задержкой.

2 · Суперразрешение — это восстановление ограничений, а не догадки

Имея грубый коннектом, модель изучает анатомию и физику, которые управляют реальными связями, а затем выводит недостающую структуру — так, как это сделал бы сам мозг. Урок в том, что это глубочайшее правило проектирования агентов: не просто подгонять наблюдаемое поведение — восстанавливать систему, которая его породила.

“Super-resolution научил меня глубочайшему правилу проектирования агентов: не просто подгоняй под наблюдаемое поведение — восстанови систему, которая его породила.”

3 · Специализация плюс координация

Коннектомика — это изучение ролей — сенсорных, моторных, исполнительных — тесно связанных. Роям нужны гетерогенные специалисты, а не комитет клонов. Разделение труда — источник эффективности; координация — источник корректности.

4 · Никакой единой точки отказа

Мозг остаётся устойчивым к повреждениям благодаря избыточности. Системы агентов должны деградировать плавно: когда один специалист отказывает, остальные перестраивают маршруты. Рой без плавной деградации — это просто монолит в костюме.

5 · Уважай физику системы, которую моделируешь

Это сквозная линия от молекулярной динамики к коннектомике и к агентам: каждое число имеет смысл только внутри системы, которая его произвела, — мутация внутри свёрнутого белка, связь внутри коннектома, вызов инструмента внутри роя.

“Мозг не запускает одну модель. Он запускает миллиарды крошечных, полусведущих агентов, которые спорят, пока не придут к ответу.”

Я построил систему, которая предсказывает эти связи, прежде чем построил агентов, которые их имитируют. Это не совпадение — это руководство по проектированию.

Область зациклена на следующем релизе модели. Я считаю, что реальное ограничение для выпуска надёжных агентов до неприличия негламурно: знать, действительно ли агент выполнил работу. Агенты терпят неудачу не потому, что модель глупа, — они терпят неудачу потому, что мы не можем отличить хорошее завершение от галлюцинированного.

В агентных системах, которые я создаю и проверяю, сбои в подавляющем большинстве структурный — неверные команды, пропущенные шаги, логические ошибки — редко “модель недостаточно умна”. Вызов инструмента с неверными аргументами, шаг, который агент пропустил, план, который он так и не проверил: это сбои интерфейса, а не сбои рассуждения. И единственный надёжный способ их поймать — это мир, с которым можно сверять агента.

Циклу с целью нужен верификатор

Цикл обратной связи настолько умён, насколько умна его проверка. Построение верификатора — песочницы, утверждений, мировой модели, способной сказать «нет, это не сработало», — и есть инженерия. Промпт — лёгкая часть.

“Цикл обратной связи настолько умён, насколько умён его верификатор. Построй проверку, иначе ты просто быстрее делаешь уверенные ошибки.”

Оценка — это проблема среды, а не проблема рубрики

Реальным задачам нужен мир, с которым можно сверяться — песочница, симулятор, игра. Вайбы не масштабируются. Поэтому я сторонник оценки, ориентированной на среду: если вы не можете перезапустить мир, вы не можете проверить агента.

Инструментирование — часть дизайна

Наблюдаемость, трассировки и таксономии отказов — это инфраструктура оценки. Собирайте их с первого дня — прикручивать трассировки к уже выпущенному агенту — это археология, а не инженерия.

Честная победа

35% с верификацией всегда лучше, чем 70% без верификации. Публикуйте базовые показатели. Публикуйте режимы отказа. Воспроизводимый отказ — это результат исследования; правдоподобная галлюцинация — это риск.

“Модель — это лёгкая часть. Знать, действительно ли агент выполнил работу, — вот сложная часть, и именно на это узкое место стоит ставить.”