
截圖顯示拍攝日期的官方頁面,可能與文章發布時不同。點選圖片可放大。
中國AI企業月之暗面(Moonshot AI)在先前預告的期限11月4日之前,於Hugging Face公開了10月發表的AI模型「Kimi K3.1 Pro」的權重(相當於模型本體的資料)。根據Hugging Face的紀錄,存放檔案的儲存庫(repository)建立於11月2日(世界協調時間)。不需要使用者註冊或申請,任何人都能下載。CoAI在10月模型發表時曾以預定事項報導,這次的公開落在該期限之內。
公開的模型
根據Hugging Face上的模型說明,其構成如下。
- 架構:總參數2.8兆,每個token啟用1,040億參數的MoE(從896個專家中選用16個的機制)
- 上下文長度:約100萬token
- 輸入:文字與圖像(圖像讀取部分約4億參數)
- 格式:權重為4位元(MXFP4),計算過程中的中間值為8位元(MXFP8),並以此格式為前提進行訓練
- 容量:分成96個檔案,合計約1.56TB
- 支援的推論引擎:vLLM、SGLang、TokenSpeed
思考深度可從「low」「high」「max」三個等級中選擇,預設為max。11月5日的一次修正移除了無法使用的設定(medium)。
授權條件
這些權重附帶的不是一般的開源授權,而是月之暗面自訂的「Kimi K3.1 Pro License」。商業使用大致上是允許的,但規模較大的服務須符合以下條件。
- 經營對外提供AI模型事業(MaaS)的企業,若包含關係企業在內的營收合計在任意連續12個月內超過2,000萬美元,須在商業使用前與月之暗面另行簽約
- 月活躍使用者超過1億人,或月營收超過2,000萬美元的產品或服務,須在畫面上醒目標示「Kimi K3.1-Pro」
公司內部使用,以及透過月之暗面官方產品或經認證的推論服務使用,不適用上述條件。
關於網路攻擊能力
月之暗面在10月的發表中曾說明,公開權重的版本已從兩個訓練階段中移除與網路攻擊相關的資料。根據其內部評測,能解出攻擊相關問題的比例從90.5%降至81.0%。
CoAI編輯部觀點
Kimi K3.1 Pro是月之暗面標榜為「迄今效能最強的3兆參數級開放權重模型」,在預告的期限內公開也提升了外界的信任。不過,1.56TB的大小並不是個人電腦能夠執行的規模。實際執行需要配備大量高效能GPU的伺服器。
對許多企業而言,權重公開的主要好處在於可以在自家伺服器上執行、資料不必外流,以及能自行驗證效能。只要不是大規模服務,授權條款不太會造成重大限制,但其條件與一般開源授權不同。使用前請務必確認授權全文。