Перейти к основному содержимому

Cloudflare открыла исходный код Clef-omni — мультимодальной модели принятия решений на 30B параметров

Behzat AIopen-source-modelsmultimodalagent-routingmixture-of-expertsself-hosting
Макрофотография печатной платы с дорожками, паяными соединениями и поверхностно монтируемыми компонентами при направленном освещении.

Cloudflare выпустила Clef-omni — мультимодальную модель принятия решений на 30B-A3B с архитектурой mixture-of-experts — под открытой лицензией. Модель принимает аудио, видео, изображения и текст и позиционируется как слой принятия решений, а не генератор общего назначения: она оценивает и маршрутизирует входящий материал — именно такая нагрузка обычно накапливается в агентных системах вокруг выбора инструментов, сортировки по модальностям и эскалации.

Close-up of a large radio telescope dish against a cloudy sky at dusk

Релиз расширяет линейку открытых моделей принятия решений Cloudflare для маршрутизации агентов. Для команд, строящих мультиагентные рои, практический эффект в том, что политика маршрутизации может находиться внутри границы развёртывания. Самостоятельно размещаемый маршрутизатор убирает зависимость от API на каждый вызов с критического пути, оставляет аудио- и видеоданные на инфраструктуре, которую контролирует оператор, и делает поведение маршрутизации воспроизводимым между средами. Он также превращает сам маршрутизатор в нечто такое, что можно оценивать, версионировать Crystal glass plasma ball with glowing electric filaments in a dark room](/media/circuit-board-macro-0e089b-dfacbd.jpg)

То, чего предоставленные материалы не устанавливают, заслуживает не меньшего внимания. Здесь не приводятся ни показатели бенчмарков, ни данные о задержке, ни ограничения контекста, ни варианты квантизации, ни характеристики пропускной способности, а число активных параметров mixture-of-experts сверх обозначения 30B-A3B не раскрыто. Командам, рассматривающим внедрение, следует проверить условия лицензии, поддерживаемые форматы входных данных и требования к обслуживанию по upstream-релизу, прежде чем считать Clef-omni готовым к замене компонентом маршрутизации.

Давайте поговорим!