OpenAI выпустила GPT-6.1 Terra, позиционируемую для более быстрых и производительных ИИ-агентов по половине цены предыдущих моделей, сообщает SiliconANGLE. Для команд, эксплуатирующих парки агентов, скачок в экономике стоимости за токен меняет то, что можно запускать непрерывно, а не по запросу. Это также вынуждает пересмотреть решения по маршрутизации и кэшированию, которые были настроены под прежние профили затрат.
Релиз выходит вместе с рекомендациями AWS по паттернам кэширования промптов для моделей OpenAI на Amazon Bedrock, что указывает на кэширование как на первостепенный рычаг, а не на второстепенную деталь. Рыночный контекст усиливает давление: V4.1-Flash-1017 от DeepSeek возглавила недельные рейтинги использования с ростом объёма токенов на 801%, сообщает Global Times. Стоимость теперь стала явным критерием при развёртывании, а комментарии о «токен-налоге», сдерживающем экономику ИИ, появились в City Journal.
Что остаётся неясным из предоставленных материалов — это масштаб снижения цены по уровням моделей, показатели задержки, стоящие за заявлением о «быстроте», и применяются ли рекомендации по кэшированию единообразно во всех регионах. Позиция студии такова: экономику стоимости за токен следует рассматривать как входной параметр маршрутизации: выбор модели, доля попаданий в кэш и декомпозиция задач взаимодействуют, и вдвое меньшая удельная стоимость не означает автоматически вдвое меньших расходов на парк, если повторы и рост контекста не контролируются.