Дженсен Хуанг из Nvidia заявил, что ИИ-агенты подняли спрос на токены и GPU «до небес», сообщает Yahoo Finance. Это утверждение переводит инференс из разряда фоновых затрат в задачу планирования мощностей: агентские парки непрерывно потребляют токены на планирование, tool calls и повторные попытки, поэтому потолки пропускной способности и цена за токен попадают в проектный бриф наряду с выбором модели и оркестрацией.
Приводится прогноз Джина Манстера о росте с примерно 15 миллионов пользователей ботов до миллиардов — траектория, которая подразумевает устойчивое давление на предложение инференса. Отдельно Джасси из Amazon заявил, что затраты на инференс должны снизиться примерно на 90% для широкого корпоративного внедрения. В совокупности эти две позиции очерчивают пространство для планирования: рост спроса с одной стороны и кривая затрат, ещё не достигшая комфортного для предприятий уровня, с другой.
Для команд, строящих мультиагентные системы, практическое следствие состоит в том, что бюджеты токенов, лимиты параллелизма и резервная маршрутизация становятся полноценными инженерными артефактами, оцениваемыми с той же строгостью, что и качество retrieval или надёжность инструментов. Что остаётся неясным из публикации — это временные рамки обеих проекций и то, относится ли цифра в 90% к удельной стоимости, общим расходам или конкретному классу нагрузок. Студия рассматривает это как открытые переменные, подлежащие измерению для каждого развёртывания, а не как устоявшиеся допущения.