月之暗面把 Kimi K3 的权重放开了。2.8T 参数,自称「全球首个开放的 3T 级模型」,Hugging Face 上能下,许可证也允许大多数内部商用。
圈子里第一反应很统一:开源了,咱们部署一下?
第二反应更统一:笑一个。然后再加个 0。
开源权重免费,不等于私有化可及。前沿大模型,正在和普通公司脱钩。
四月我写过 DeepSeek-V4 私有化部署成本:V4-Flash 年 TCO 约 60 万,V4-Pro(1.6T)约 232 万。今天把同一本账,摊到 K3 上——数字会难看很多。
一、先把规格钉死:不是「又一个大模型」
官方与 model card 能核对的核心数字:
| 项目 | Kimi K3 | 说明 |
|---|---|---|
| 总参数 | 2.8T | 3T 级开源权重 |
| 激活参数 | 约 104B | 每 token 激活 16 / 896 专家 |
| 架构 | Sparse MoE | KDA + AttnRes + Stable LatentMoE |
| 上下文 | 1M tokens | 原生长上下文 |
| 权重格式 | MXFP4 | 量化感知训练;激活 MXFP8 |
| 权重体积 | 约 1.4–1.5 TB | 仅权重,不含 KV / 并发 |
| 官方部署建议 | 64+ 加速器 supernode | 高带宽通信域 |
| API 定价(参考) | 缓存命中 $0.30 / 未命中 $3 / 输出 $15(每百万 token) | 官方 blog |
出处:Kimi K3 官方博客 · Hugging Face moonshotai/Kimi-K3
翻译成大白话:下载是免费的,跑起来是数据中心的事。
很多人盯着「激活才 100B 出头」——这是推理算力的一面。另一面是:2.8T 总参要装进集群,896 专家的 all-to-all 要吃互联,1M 上下文还要给 KV 和并发留余量。官方原话很直:推理效率同样受益于更大的高带宽通信域,所以建议 64 个或更多加速器 的 supernode。
二、X 上为什么在算「3000 万」
权重一放,X 上的情绪比参数表更诚实。
有人开玩笑说部署成本「3000 万左右」;有人回「后面还得再加个 0」;有人直接写「3 个小目标可以搞 10 套」。也有人怕领导说:K3 开源了,咱们来部署一下,测测本地知识库。
另一条更土:机房、服务器、UPS、制冷、网络、运维人员——「全下来要一个亿吧」。
这些不是官方报价单。它们是行业人对数量级的直觉。
| 社区说法 | 我怎么读 |
|---|---|
| 「3000 万左右」 | 64 卡级高端集群 + 配套,中国市场常谈的 CapEx 量级 |
| 「后面再加个 0」 | 多活、高并发、长上下文生产、冗余与多地——夸张,但方向对 |
| 「领导要本地知识库」 | 把「权重可下」误当成「部门可上」 |
| 「80 张 5090 跑通了」 | 极客实验有价值;吞吐、稳定性、1M 并发与生产 SLA 是另一回事 |
别跟参数表吵架。先问一句:你的资产负债表,扛不扛得住 64 卡以上的超节点?
三、同一本 H20 账:把 K3 摊开
四月那篇 DeepSeek 文,我用的是 AWS 风格 H20 8 卡实例(大陆可稳定采购的高端卡档位),1 年合约含税大约:
- 单台 8×H20:约 ¥57.2 万 / 年
- V4-Flash(1 台):年 TCO ≈ ¥60 万(含 100M 专线量级)
- V4-Pro(4 台):年 TCO ≈ ¥232 万
K3 官方建议 64+ 加速器。按「每节点 8 卡」粗算,就是 至少 8 个节点:
| 项目 | 粗算(人民币) | 备注 |
|---|---|---|
| GPU 云租(8 台 H20 节点) | ≈ ¥458 万 / 年 | 8 × 57.2 万;仅实例 |
| 高速互联 / 存储 / 带宽 | 数十万级起 | EP 通信不能省 |
| 电费、制冷、机房、UPS | 视自建或托管 | 64 卡功耗是机房题 |
| 运维人力 | 2–4 名以上高阶 | 不是「装个 Docker 就走」 |
| 云上年 OpEx 量级 | 约 ¥500–700 万+ | 方向估算,非厂商报价 |
| 自建 CapEx 社区量级 | 约 ¥2000–3000 万+ | 卡 + 服务器 + 网络 + 场地;看货源与代际 |
再强调一次:这是用我既有 H20 账本做的数量级推演,不是月之暗面的价目表。换成 H100/H200/B200 或昇腾超节点,绝对数会变,「比 V4-Pro 再上一个台阶」这个结构不会变。
权重本身:MXFP4 大约 1.4TB。塞进显存只是门票;生产服务还要:
- Expert Parallel 的高带宽域
- 1M 上下文的 KV 与前缀缓存
- 并发余量与故障切换
- vLLM / SGLang 等对 KDA、MXFP4 的生产级适配
所以你会看到两种真实世界:
- API / 托管:按 token 付钱,缓存命中时输入可以很便宜
- 真私有化:先过 64 卡这道坎,再谈「本地知识库」
四、并排对照:Flash / Pro / K3 是三档门槛
把 DeepSeek V4 和 Kimi K3 放一张表里,企业决策会清楚很多:
| 维度 | V4-Flash | V4-Pro | Kimi K3 |
|---|---|---|---|
| 总参数 | 284B | 1.6T | 2.8T |
| 激活参数 | 13B | 49B | 约 104B |
| 显存/权重量级 | ~250GB | ~1.3TB | 权重 ~1.4TB+ |
| 推荐部署 | 1×8 卡 | 4×8 卡 | 64+ 加速器 |
| 年 TCO 参考 | ~¥60 万 | ~¥232 万 | 云上 ~¥500–700 万+ |
| CapEx 体感 | 中小可谈 | 中大企业 | 头部 / 国央企 / 超节点 |
| 更像谁的工具 | 多数公司私有化甜点 | 强合规多节点 | 前沿能力声明 + 少数能扛 |
V4-Flash:私有化「还在普通人公司的预算里」。
V4-Pro:已经是「认真做数据主权」的价位。
K3:直接跳到 超节点叙事——不是研发小组周末 Docker 一下的项目。
开源解决的是「你有没有权利跑」。私有化解决的是「你有没有能力跑」。这两件事,从来不是一回事。
这也是我四月那篇的后半句,今天要写得更硬一点:V4-Flash 曾把私有化成本拉回可接受区间;K3 则提醒市场——开放权重的天花板,可以继续抬;可私有化的甜点区,不会自动跟着抬。
五、企业怎么选:别被「开源了」三个字绑架
我的建议仍然土,但管用:
1)先分清你要的是「能力」还是「主权」
- 要前沿长程 coding、重推理、偶尔 multimodal → K3 API / 认证托管 往往更优
- 要数据不出域、稳定内网、可预期成本 → 中型可私有模型(V4-Flash 量级)才是主盘
2)混合架构,而不是宗教站队
- 80% 日常:私有中型模型 + 内部知识库
- 20% 尖峰:K3 / 其他前沿 API
- 核心数据留在你控得住的一侧;尖峰能力按量买
3)领导说「开源了部署一下」时,回三句人话
- 权重免费,集群不免费
- 官方建议 64+ 卡,不是一张消费级卡的故事
- 先算 TCO,再定 POC;POC 用 API 也能验证业务价值
4)许可证也要看一眼
Kimi K3 License 对内部使用相对友好;若你做对外 MaaS,且收入跨过一定门槛,需要另行协议。私有化之前,法务比运维更早该进场。出处见 HF LICENSE。
写在最后
压成五句:
- K3 权重开源是真事——2.8T、约 104B 激活、1M 上下文、MXFP4,HF 可下
- 官方门槛也是真事——建议 64+ 加速器 supernode,不是「docker 一键」
- 同一本 H20 账——V4-Flash ~60 万/年,V4-Pro ~232 万/年,K3 云上 GPU 粗算就四五百万起
- 社区说的 3000 万——更像自建 CapEx 的体感量级,不是笑话本身有趣,是数量级对得上
- 普通公司的正解——别和前沿私有化硬刚;混合架构,把钱花在业务闭环上
开源让「权利」大众化了;算力与运维,仍在把「能力」精英化。 接下来几年,你会越来越常看到这种分裂:权重越放越开,能私有化前沿模型的组织名单却越缩越短。
这不是悲观。这是让你少做一件错事——别把别人的开源新闻,当成自己的采购依据。
我一个人打造的 Zaokit AI Agent 交易平台,以及 AI PPT / 图文创作 Zaokit.app,做的是把可用的 AI 能力送进真实交付,而不是先堆一个谁都养不起的私有前沿集群。唯一网站:https://zaokit.app。
企业侧同一逻辑,已经融进可直接接入的服务:
稳定靠谱的 AI 全家桶,开箱即用。
延伸:DeepSeek-V4 私有化部署到底要花多少钱 · 黄仁勋第一条帖子对着闭源阵营开炮 · AI 被大模型绑架了
公开参考:Kimi K3 官方博客 · HF moonshotai/Kimi-K3 · K3 Quickstart
| 唯一网站:Zaokit.app | Agent 交易平台:Zaokit.ai |
企业 Grok 服务:grok.zaokit.com
企业服务:cx.zaokit.com · cc.zaokit.com · tokenhub.zaokit.ai · gift.junxinzhang.com · 完整产品列表
稳定靠谱的 AI 全家桶,开箱即用。
我是 Jason,自己一个人做 AI 产品。开源解决权利,私有化考验能力。别把下载链接,当成部署方案。