Kimi K3.1 Pro 權重釋出：Gated DSA 與自架的交付邊界（2026）

2026 年 11 月 4 日（UTC），Moonshot AI 宣布釋出 Kimi K3.1 Pro 權重。發布公告把先前託管服務的下一個里程碑交出來：這次可以檢查實際 checkpoint、設定與授權，再決定是否把模型搬到自己的環境。公告日期由其公開鏡像核對，時間為 16:00 UTC。

先前的K3.1 Pro 發布分析已談過 API 與能力評測。這裡接著回答另一個問題：權重交付後，哪些長上下文實作能被檢查，哪些服務能力還需要部署者自己接回去？先讀模型卡的主張，再對照設定檔與推論引擎文件，最後判斷這份交付對誰最有價值。

Kimi K3.1 Pro 權重交付了什麼？先看實物

Kimi K3.1 Pro is an open-weight, natively multimodal agentic model

中文：Kimi K3.1 Pro 是開放權重、原生多模態的 Agent 模型。

Moonshot AI，Kimi K3.1 Pro 模型卡

這句話描述了三件事：取得模型數值、處理多模態輸入，以及面向多步驟工作。模型卡把它定位為從 K3 經過大規模聯合強化學習的後訓練版本，強調程式、3D 創作、金融研究與事實準確性。這些能力提升仍是廠商主張；交付權重讓它們更容易接受外部檢驗，並不替每一項成績背書。

截至 11 月 6 日查閱，官方儲存庫檔案資料的 revision 為 d9e99b0792a5e93b78ea9bea62a68167e36ddd9e。96 個 Safetensors 權重分片合計 1,561,293,160,568 bytes，約 1.56 TB；這是檔案大小，不是顯存需求。我們核對的是公開 metadata 與索引，沒有下載整份權重或執行模型推論。

模型卡列出 2.8 兆總參數、每 token 啟用約 1,040 億參數，以及 1,048,576 tokens 的上下文上限。前代 K3 已有相同量級與容量；要看這次實作的變化，應往注意力層與引擎接線找，而不是把 1M 再當成一次新擴容。儲存庫的建立時間也不能直接當公開發布日：準備檔案、宣布發布與對外可用，是不同事件。

Kimi K3.1 Pro 權重裡的改動：24 層 Gated DSA

最值得對照的是版本固定的 config.json：93 層中，69 層維持 Kimi Delta Attention（KDA），24 層採 Gated DeepSeek Sparse Attention（Gated DSA）。模型卡說明，後者取代 K3 的全注意力 Gated MLA；不是把全部 93 層都改成同一種稀疏機制。想補前代設計，可先讀Kimi K3 架構入門。

可以把長文件想成一座資料室。KDA 用持續更新的狀態保存歷史線索；DSA 則在需要讀回歷史時，先用索引挑位置，再對選中的內容做較昂貴的注意力運算。vLLM 的原始技術解說與設定檔相互對得上：DSA 索引採 32 個頭、每頭 128 維，選出 top-2048 的歷史位置。這裡的 2,048 是索引選取數，不能讀成上下文只剩 2,048 tokens。

這項改動把「歷史保存」與「這一步精讀哪些歷史」分開處理。索引本身仍有成本，未被選中的關鍵例外也可能影響答案。少做部分注意力計算，不能直接推出同等比例的整機加速、顯存節省或正確率提升；權重、快取、跨卡傳輸與工具等待，仍各自佔用資源。

因此，1M 上限回答的是設定容許多長的上下文序列；你真正想知道的，是模型能否在那個長度找對修訂版本、處理跨頁矛盾，並承認材料裡找不到答案。下載後的評估應特別加入這些題目。只用一個容易定位的關鍵句，會把長文件工作最難的部分留在考卷外。

引擎說支援，還要看是哪一個版本

權重到手後，實際運行需要讀懂這套架構與數值格式的引擎。vLLM 官方部署配方在查閱時要求 vLLM 0.34.0 以上，並明寫該版本尚未正式釋出，需用 nightly；另提供 vllm/vllm-openai:kimi-k31 映像。SGLang 首日支援公告則說明使用預覽映像，cookbook列出專用分支與部署配置。

這就是「有首日支援」的具體意思：有可以追查的配方，但要跟著指定版本核對。模型頁自動產生的通用安裝片段，可以當入口；在這個交付階段，部署前仍應讀引擎自己的型號文件，不能只憑一行啟動指令就假定整套功能已齊備。

The checkpoint ships MXFP4 routed-expert weights; everything else is BF16.

中文：這份 checkpoint 的路由專家權重採 MXFP4，其餘部分採 BF16。

vLLM，Kimi K3.1 Pro serving recipe

這句也解開一個容易誤讀的標籤：MXFP4 並非把整份模型的每個數字一律壓成四位元。權重格式、運算精度與 KV Cache 精度要分開列帳。104B 啟用參數則描述每 token 的計算參與量，不能拿它當需要保存的完整模型大小。

vLLM 的 NVIDIA 基準配方使用一組 TP8，也就是把張量運算分到八張 GPU，例子為兩個 GB300 trays 或一個 B300 node。這是文件的工作基準，不是所有實作的硬性最低卡數。先把自己的記憶體、互連與引擎版本對上，再談速度，才不會把另一套硬體的結果貼到自己的主機上。

快取容量變大，也可能換來較慢的解碼

同一份 vLLM 配方還提供了很有教育意義的取捨：在八張 B300 的特定設定下，DCP8 把部分快取分散保存，文件報告可容納的快取 tokens 約為一般 TP8 的七倍，但在相同 batch 下，解碼步驟慢 7%–25%。這是引擎團隊的配置量測，不是 AlphaLab 重現，也不是每個請求都能加長七倍。

它支持的判斷很實際：容量與延遲可能需要交換。長期保存許多 Agent 工作階段，與讓一個短問題最快回完，會選到不同配置。配方另外明說 NVFP4 KV 的長上下文準確性尚未量測；所以不能把短題品質接近，直接推成百萬 token 也已驗證。

自訂授權：拿得到模型，仍要辨認使用邊界

Kimi K3.1-Pro License允許使用、修改、部署與衍生作品，但附有具體條件。它對不同規模與使用方式分別處理，不能只用「免費商用」四個字涵蓋。

• 散布副本或重要部分，須保留著作權與許可聲明。
• 若被授權方或關係企業經營 Model as a Service，且被授權方與關係企業合計營收在任何連續 12 個月超過 2,000 萬美元，商業使用前須另與 Moonshot 簽約。門檻不是只算這個模型帶來的收入。
• 商業產品或服務若超過 1 億月活躍使用者，或月營收超過 2,000 萬美元，介面須醒目顯示「Kimi K3.1-Pro」。這裡是月營收，與上一項的連續 12 個月門檻不同。
• 第 2、3 條另有嚴格定義的內部使用，以及經官方產品或認證推論夥伴存取等豁免；內部使用的定義包含不向第三方提供模型、輸出或底層能力。

授權把「僅在特定功能／harness 中嵌入模型能力的終端產品」，以及單純轉送他人託管模型的請求，排除在其 MaaS 定義之外。評估產品時，應先畫出誰能控制輸入、參數與資料，再判斷自己落在哪個條件；不要用「公司內部專案」這個名稱，代替資料與輸出流向的核對。

AlphaLab 的判讀：交付的是可檢查的模型，完整服務要另外驗收

我同意：開放權重增加了可追查性

API 使用者通常先看到輸入、輸出與帳單；現在部署者還能固定 checkpoint revision，查閱設定，控制引擎與快取，對異常做更細的比較。這使「某次結果為什麼變了」更有機會被追到具體版本。即使不自架，也可以要求服務方提供型號、版本與測試條件，讓比較更清楚。

我存疑：把服務成績直接搬到新部署

模型產生工具呼叫，和工具真的被正確執行，中間還有解析器、權限、檔案環境與歷史管理。vLLM 配方特別配置 kimi_k3 的工具及推理解析器；模型卡也要求多輪時保留完整 assistant message。這些接線影響整條工作回路，不能靠換好權重就視為完成。相關 API 訊息與設定細節，可接著讀K3.1 Pro 切換與排錯教學。

原始模型卡的評測註腳也提醒這個界線：例如 Terminal-Bench 使用 Claude Code harness，部分比較分數取自其他模型公告或榜單；BrowseComp 採 200K tokens 觸發壓縮及最多 500 步。這些條件屬於被測系統的一部分。公開權重擴大了外界核對的機會，並未自動構成對每項分數的獨立重現。

對研究者與使用者，下一步可以不同

有既有多卡環境的研究或推論團隊，值得把這個 checkpoint 納入評估：固定 revision、映像與解析器，先驗一輪文字與圖片，再驗工具回傳和長文件中的例外。保留成功、失敗與重試，將合格成果、延遲、峰值記憶體及總費用一起比較；不要一開始就把正式資料與外部操作權限接上。

以完成工作為目標的一般使用者，可以先沿用已可用的託管入口。Kimi 的本機、雲端與 API 路線能協助選擇責任範圍；前代 K3 權重落地分析則補上完整模型、啟用參數與部署資源的差別。是否自架，應由可控制性、資料流與工作量帶來的價值決定，不必為了參與一次發布就承擔整套維運。

這次最有價值的變化，是同一個 K3.1 Pro 主張多了一條可固定、可檢查的交付路徑。真正應追蹤的，是 Gated DSA 在你的長文件裡能否找對證據，以及指定引擎接回工具後，能否穩定交出合格成果。把這兩件事驗清楚，才知道開放的控制權值不值得接手。