Moonshot AI выпустила Kimi K3.1 Pro — первую модель новой серии K3.1. Публикации SiliconANGLE, Unite.AI и блога Kimi сообщают о 3 триллионах параметров; наряду с флагманом указан вариант Highspeed. Студия отмечает, что количество параметров само по себе мало говорит о производительности агентов; для решений о маршрутизации важны латентность, поведение контекста и экономика на токен при устойчивой нагрузке с tool call.
В таком масштабе меняется расчёт размещения. Команды, которые маршрутизируют агентские нагрузки между hosted API и self-hosted inference, получают третью точку отсчёта: модель, заявленный размер которой подразумевает существенную инфраструктуру обслуживания — независимо от того, доступна ли она через провайдера или развёрнута на собственном оборудовании. Практический вопрос не в том, доступна ли модель с 3 трлн параметров, а в том, где должна размещаться каждая нагрузка — hosted для пиковой ёмкости и передовых возможностей, self-hosted для резидентности данных, предсказуемой пропускной способности или тонкого контроля над inference-стеком.
Студия рассматривает такие релизы как повод перезапустить оценки маршрутизации, а не менять настройки по умолчанию. Несколько деталей остаются неясными из предоставленных материалов: контекстное окно модели, условия лицензирования, структура цен и результаты бенчмарков не указаны, а связь между флагманом и вариантом Highspeed не определена. Эти пробелы следует проверить по первичной документации до любых изменений маршрутизации в продакшене.