
截图展示拍摄日期的官方页面,可能与文章发布时不同。点击图片可放大。
中国AI企业月之暗面(Moonshot AI)在此前预告的期限11月4日之前,于Hugging Face公开了10月发布的AI模型“Kimi K3.1 Pro”的权重(相当于模型本体的数据)。根据Hugging Face的记录,存放文件的仓库(repository)创建于11月2日(协调世界时)。无需用户注册或申请,任何人都可以下载。CoAI在10月模型发布时曾将此作为计划进行报道,此次公开在该期限之内。
公开的模型
根据Hugging Face上的模型说明,其构成如下。
- 架构:总参数2.8万亿,每个token激活1040亿参数的MoE(从896个专家中选用16个的机制)
- 上下文长度:约100万token
- 输入:文本和图像(图像读取部分约4亿参数)
- 格式:权重为4比特(MXFP4),计算过程中的中间值为8比特(MXFP8),并以这种格式为前提进行训练
- 容量:分为96个文件,合计约1.56TB
- 支持的推理引擎:vLLM、SGLang、TokenSpeed
思考深度可在“low”“high”“max”三档中选择,默认为max。11月5日的一次修正删除了无法使用的设置(medium)。
许可证条件
这些权重附带的不是常见的开源许可证,而是月之暗面自有的“Kimi K3.1 Pro License”。商业使用大体上是允许的,但规模较大的服务需满足以下条件。
- 经营对外提供AI模型业务(MaaS)的企业,如果包括关联公司在内的营收合计在任意连续12个月内超过2000万美元,需在商业使用前与月之暗面另行签订协议
- 月活跃用户超过1亿,或月营收超过2000万美元的产品或服务,需在界面上醒目地标注“Kimi K3.1-Pro”
公司内部使用,以及通过月之暗面官方产品或经认证的推理服务使用,不受上述条件限制。
关于网络攻击能力
月之暗面在10月的发布中曾说明,对于公开权重的版本,已从两个训练阶段中去除与网络攻击相关的数据。根据其内部评测,能够解答攻击相关问题的比例从90.5%降至81.0%。
CoAI编辑部观点
Kimi K3.1 Pro是月之暗面宣称“迄今性能最强的3万亿参数级开放权重模型”,在预告的期限内公开也提升了外界对其的信任。不过,1.56TB的体量并不是个人电脑能够运行的规模。实际运行需要配备大量高性能GPU的服务器。
对许多企业而言,权重公开的主要好处在于可以在自家服务器上运行、数据无需外传,以及能够自行验证性能。只要不是大规模服务,许可证不太会构成重大限制,但其条件与一般的开源许可不同。使用前请务必确认许可证全文。