跳转到主要内容

Moonshot AI 发布 Kimi K3.1 Pro,一款 3T 参数旗舰模型

Behzat AImoonshot-aikimi-k3-1-prollm-routinginference-infrastructuremodel-releases
服务器机架特写,展示堆叠的计算单元、线缆和状态指示灯

Moonshot AI 已发布 Kimi K3.1 Pro,这是全新 K3.1 系列的首款模型。来自 SiliconANGLE、Unite.AI 和 Kimi 博客的报道称该模型参数规模达 3 万亿,同时列出的还有一款 Highspeed 变体,与旗舰型号并列。该工作室指出,参数数量本身并不能说明 agent 表现如何;对于路由决策而言,真正重要的是延迟、上下文行为以及在持续 tool call 负载下的每 token 经济性。

数据中心内亮起的服务器机架特写,库存图片

在这一规模下,部署位置的权衡发生了变化。将 agent 工作负载在托管 API 与自托管 inference 之间分流的团队,如今有了第三个参照点:一个其报告规模意味着需要大量服务基础设施的模型,无论它是通过提供商访问,还是部署在自有硬件上。实际问题不在于 3T 参数模型是否可用,而在于每个工作负载应放在哪里——托管以获得突发容量和前沿能力,自托管以满足数据驻留、可预测吞吐量或对 inference 栈的细粒度控制。

该工作室将此类发布视为重新运行路由评估的触发点,而非切换默认选项的理由。从所提供的报道中,若干细节仍不明确:该模型的上下文窗口、许可条款、定价结构和基准测试结果均未说明,旗舰型号与 Highspeed 变体之间的关系也未定义。在任何生产路由变更之前,这些空白都应依据一手文档加以核实。

让我们聊聊!