跳转到主要内容

OpenAI 发布 GPT-6.1 Terra,agent 运行更快、token 成本减半

Behzat AIagent-economicstoken-costmodel-routingprompt-cachingllm-infrastructure
电脑屏幕上 HTML 代码的特写,科技主题素材图片。

据 SiliconANGLE 报道,OpenAI 已发布 GPT-6.1 Terra,定位为以此前模型一半的价格提供更快、表现更好的 AI agent。对于运营 agent 集群的团队而言,每 token 经济性的阶跃式变化,会改变哪些任务可以持续运行、而非按需运行。它同时迫使团队重新评估那些按早期成本曲线调校的路由与缓存决策。

数字空间中神经网络连接的 3D 可视化

此次发布同时伴随 AWS 关于在 Amazon Bedrock 上为 OpenAI 模型使用 prompt caching 模式的指南,这表明缓存已被视为首要杠杆,而非事后补充。市场背景进一步强化了这一压力:据《环球时报》报道,DeepSeek 的 V4.1-Flash-1017 以 token 用量激增 801% 登顶周使用量排名。成本如今已成为明确的部署门槛,《City Journal》有评论指出“token 税”正在制约 AI 经济性。

从现有报道中仍不清楚的是:此次降价在各模型层级上的覆盖范围、“更快”这一说法背后的延迟数据,以及该缓存指南是否在各区域统一适用。本工作室的立场是,每 token 经济性应被视为路由的输入项:模型选择、缓存命中率与任务拆解相互影响,如果重试与上下文增长得不到管理,单位成本减半并不会自动让集群支出减半。

让我们聊聊!