BlockRun и Incarna реализовали оплату за инференс для агентов, работающих на Amazon Bedrock AgentCore, используя платежи AgentCore для расчётов за каждый вызов модели. Эта схема выставляет счета агентам за инференс, а не за рабочее место или подписку, поэтому единицей учёта становится отдельное событие инференса, а не месячный лимит, привязанный к пользователю или аккаунту.
Учёт каждого инференса как оплачиваемого события превращает стоимость в поверхность контроля на уровне действия. Вместо сверки расходов постфактум с уровнем подписки среда выполнения агента может назначить цену на каждый вызов и применять бюджеты и ограничения скорости в той же точке, где вызов авторизуется. Это переносит контроль с периодических проверок квот на сам путь запроса, где превышен
Реализация была опубликована AWS в рамках её руководства по инфраструктуре агентов, которое ставит биллинг рядом с вопросами среды выполнения и идентификации, уже охватываемыми AgentCore. Что остаётся неясным из материалов, так это как в учёте обрабатываются вариации цен на уровне токенов, повторные попытки и неудачные вызовы, а также распространяется ли эта схема на вызовы инструментов и многошаговые циклы агентов за пределами отдельных событий инференса. Эти детали определили бы, насколько точно учёт по действиям отражает реальные расходы в продакшене.