DeepSeek открыла исходный код DeepInfer — фреймворка инференса, который работает за её собственными production-сервисами; мотивацией названо снижение стоимости развёртывания. Параллельно IBM и Red Hat выпустили llm-d 1.0, добавляющий средства эксплуатационного управления (day-2) для команд, запускающих модели в собственном контуре. DeepSeek представила свой релиз как давление на OpenAI и Anthropic в части экономики обслуживания.
Для агентной инженерии значимый сдвиг здесь не в ценах вендоров, а в размещении. Стоимость инференса и то, где работает модель, теперь определяют, сколько прогонов агента команда может позволить себе на задачу, на цикл evaluation и на регрессионный набор. Открытый self-hosted стек обслуживания превращает это из фиксированной статьи расходов в решение о развёртывании: какие модели работают на собственных мощностях, какие остаются за API и как управляется маршрутизация между ними. Средства эксплуатационного управления в llm-d 1.0 важны именно здесь, потому что агентные нагрузки долгоживущие — обновления, откаты, изменения ёмкости и проверки здоровья инфраструктуры обслуживания являются частью системы, а не запоздалой мыслью.
Позиция студии: evaluation-стенды и модели стоимости следует проектировать вместе с топологией обслуживания. Из предоставленных материалов остаётся неясным, какие именно цифры затрат приводит DeepSeek, какие аппаратные допущения за ними стоят и какие эксплуатационные средства llm-d 1.0 предоставляет в деталях; это нужно сверить с первичной документацией, прежде чем они лягут в основу плана развёртывания.