DeepSeek выпустила DeepInfer в открытый исходный код, описав его как inference-фреймворк, лежащий в основе её собственных production-сервисов. Релиз выводит в открытый доступ рабочий serving-стек, а не референсную реализацию или подмножество внутренней системы. Издания Bloomberg, SiliconANGLE, Quartz и TechTarget подали этот шаг в контексте снижения затрат на эксплуатацию ИИ, а публикации времён Reuters позиционировали его как давление на OpenAI и Anthropic.
Для команд, запускающих agent-нагрузки, важная деталь — где именно возникают затраты. Agent-системы умножают число вызовов модели на задачу: шаги планирования, выбор инструментов, повторные попытки, этапы верификации и передачи между субагентами каждый добавляют запросы, поэтому эффективность serving накапливается на протяжении всего прогона, а не применяется однократно. Работоспособный открытый serving-стек меняет расчёт «строить или покупать» для self-hosted сред выполнения и даёт инженерным командам базу, относительно которой можно бенчмаркать собственные развёртывания.
Оценка студии: это снижает порог входа для self-hosted agent-инфраструктуры, но не решает вопрос окончательно. В предоставленных публикациях нет данных о пропускной способности, latency или требованиях к оборудованию, условий лицензирования или сравнения с другими serving-фреймворками, и не приводится независимой оценки. Именно эти цифры определяют, выигрывает ли self-hosting у hosted API для данной нагрузки, и их следует измерять для каждого развёртывания, а не предполагать исходя из анонса.