Kimi K2 Thinking

语言 Moonshot AI 部分核实 发布于 2025年11月
  • 输入 输入模态: 文本 输出 输出模态: 文本
  • 推理
  • 工具调用
  • 结构化输出
  • 开放权重

价格

3 个渠道报价 · 按标价显示
Alibaba Cloud Model Studio(在新标签页打开) 官方 该渠道自 2025年11月10日 起提供 中国站 · CNY 上下文: 262.14K推理: 是工具调用: 是结构化输出: 是最长输入: 229.38K最大输出: 16.38K输入模态: 文本输出模态: 文本内置工具: 联网搜索 kimi-k2-thinking
条件/ 百万 tokens输入输出
标准 自 2026年10月11日 起页面不再列出 ¥4.00¥16.00

价格来源 阿里云百炼:模型价格(在新标签页打开) (核对于 2026年10月8日)

Moonshot AI Platform(在新标签页打开) 官方 中国站 · CNY kimi-k2-thinking
条件/ 百万 tokens输入缓存读取输出
标准 历史价格,取自 2026年2月17日 存档的厂商页面¥4.00¥1.00¥16.00

价格来源 Kimi API 开放平台:模型推理价格(在新标签页打开) (核对于 2026年10月23日)

Moonshot AI Platform(在新标签页打开) 官方 全球 · USD kimi-k2-thinking
条件/ 百万 tokens输入缓存读取输出
标准 历史价格,取自 2026年3月30日 存档的厂商页面$0.60$0.15$2.50

价格来源 Moonshot AI platform pricing(在新标签页打开) (核对于 2026年10月23日)

标准:不带任何条件的请求所付价格(即本站其他页面显示的标价)。

详细规格

最长输入
229.38K
内置工具
联网搜索
知识截止
2024年8月
模型家族
kimi-k-thinking
模型 ID

Moonshot AI 的页面未说明:推理档位, 可关闭推理, 最大思考预算, 别名。

本地运行

权重: moonshotai/Kimi-K2-Thinking
  • 参数 1.03T
  • 激活 32B · 专家 384(每 token 8)
  • 原生精度 INT4 (AWQ / GPTQ)
  • 层数 61
  • 每 token 的 KV 缓存 69 KB
  • 配置位置数 256K (config.json max_position_embeddings)
  • API 上下文 250K (厂商 API)
我的配置 GeForce RTX 4090 24 GB · 1008 GB/s · 内存 64 GB DDR5 双通道 · 89.6 GB/s
在你的配置上 · GeForce RTX 4090
放不下 原生 INT4 (AWQ / GPTQ) (自动) 8K 上下文
权重KV 缓存运行开销可用上限
需要
≈ 581.6 GB (权重 553.4(官方文件) + KV 缓存 0.5 + 开销 27.7)
可用
21.6 GB (标称的 90%)
建议
这台配置跑不动,看下面的“最低需要”
推荐精度权重8K 需要在你的配置上最长上下文
原生 INT4 (AWQ / GPTQ)官方553.4 GB≈ 581.6放不下—
Q3_K_M质量下降明显467.2 GB≈ 491.1放不下—
IQ3_XXS质量下降明显365.6 GB≈ 384.5放不下—
Q2_K质量下降明显358.5 GB≈ 376.9放不下—
IQ2_XXS质量下降明显246.1 GB≈ 259.0放不下—

点一行换精度。“官方”是厂商自己发布的文件,大小是实际值;其余按参数量 × 每权重位数估算。

和其他配置比

每个配置各用它能跑的最高精度,点一个看细节。

最低需要(原生 INT4 (AWQ / GPTQ) · 8K):单机放不下,约需 9 张 80 GB 显卡。

运行命令

vLLM
vllm serve moonshotai/Kimi-K2-Thinking --max-model-len 8192
微调需要多少显存
全参≈ 15298.6 GB你的配置放不下
LoRA≈ 1916.6 GB你的配置放不下
QLoRA≈ 542.4 GB你的配置放不下

batch 1、序列 2048、梯度检查点;LoRA / QLoRA 为注意力投影上的 r=16 适配器。

估算;数据来自厂商的 Hugging Face 仓库,截至 2026-11-21。 怎么估算的

引用评分

来自第三方排行榜,并非我们测得
  • Epoch Capabilities Index 145.5

    第 78 名,共 123 个上榜模型 · 置信区间 143.7–147.3

  • EQ-Bench Creative Writing v3 1,631

    第 38 名,共 95 个上榜模型

  • EQ-Bench Longform Writing 69

    第 41 名,共 93 个上榜模型

  • Epoch AI, 'Capabilities & benchmarking'. Published online at epoch.ai. Retrieved from 'https://epoch.ai/benchmarks'. Licensed CC BY 4.0. · 许可 · 数据日期 2026年11月14日
  • EQ-Bench by Samuel J. Paech (eqbench.com; EQ-bench/EQ-bench-site on GitHub), MIT License. · 许可 · 数据日期 2026年10月28日
  • 我们做的改动
  1. Moonshot AI Platform, 中国站 上线报价 缓存读取 ¥1.00 · 输入 ¥4.00 · 输出 ¥16.00
  2. Moonshot AI Platform 上线报价 缓存读取 $0.15 · 输入 $0.60 · 输出 $2.50
  3. Moonshot AI Platform, 中国站 上线报价 缓存读取 ¥1.00 · 输入 ¥4.00 · 输出 ¥16.00
  4. Moonshot AI Platform 上线报价 缓存读取 $0.15 · 输入 $0.60 · 输出 $2.50
  5. Alibaba Cloud Model Studio, 中国站 上线报价 输入 ¥4.00 · 输出 ¥16.00
  6. 上下文窗口 256K → 262.14K

来源

Moonshot AI 官方政策:数据使用、隐私、条款 →

本页部分数值尚待与官方页面核对:实心圆点已核实,空心圆点尚未核实(无论是否已有来源)。 我们如何核实数据

Moonshot AI · 中国 · moonshot.ai

快照、同系列与同厂商的其他模型