跳到主要內容

【2026 最新】Unsloth Dynamic 3.1 值得重下載嗎?Qwen3.8-27B 逐檔更新與量化選型教學

最後更新: ·
Unsloth Dynamic 3.1 量化更新教學:同名也會變,先核對雜湊

你已經下載 Qwen3.8-27B,看到 Unsloth Dynamic 3.1 推出,準備再花一晚抓新檔。可是檔名一模一樣,容量也沒變:這到底是新版,還是把同一個檔案又下載一次?如果手上是 24–32GB 顯卡,又該先換 Q3、Q4,還是 Q6?

這篇專為剛開始跑本機 AI、願意複製幾行終端機指令的讀者寫。你會拿到本次 22 個 UD 量化檔的版本清單,學會固定下載版本、核對雜湊,再安排一次只換檔案的繁中驗收。本文核對的是截至 2026 年 11 月 14 日可讀取的官方檔案與文件,未執行 Qwen3.8-27B 推論,也不提供預填的繁中勝率。

先說結論:值得更新=檔案真的變了+你的任務有收益

把檔名當成書名,revision 當成版次,SHA-256 雜湊當成內容指紋。書名相同,可以換內容;版次換了,也可能只是修封面文字。要判斷手上這一本需不需要換,先查指紋,再看新內容對你是否有用。

  • 先別整庫重抓。這次比較的 22 個 UD 檔中,14 個內容雜湊改變、8 個相同;清單只描述兩份指定快照之間的檔案差異。
  • Q3 要看完整尾綴。UD-Q3_K_XL 在 11 月 12 日另有更新;UD-IQ3_S、UD-IQ3_XXS 的指紋則與舊快照相同。
  • Q6 也不是一整組一起變。UD-Q6_K、_M、_L 已變;UD-Q6_K_XL 在這兩份快照中相同。
  • 顯卡容量是預算,效果要另驗。下載 GB、主機 RAM、GPU VRAM 各有口徑;圖表上的一條曲線,還不足以替你的繁中與工具任務作決定。

一、Unsloth Dynamic 3.1 更新的是什麼?

量化像替行李重新打包:盡量縮小模型權重,同時保留有用能力。Dynamic 指的是量化配方會按不同張量分配精度;檔名中的 Q3、Q4 方便辨認家族,不能當作每個參數都使用相同位元數。若這些名稱仍陌生,先補 GGUF 量化選擇指南,本篇接著處理「已經有檔案,要不要換」這個問題。

Unsloth 的 11 月 11 日更新說明把 Dynamic 3.1 標為 preview。它是這批 GGUF 的量化更新,不是把 Qwen3.8-27B 換成另一個基礎模型。公開文件仍有「3-bit 不更新」的概括句;但 檔案提交歷史在 11 月 12 日 02:15 UTC 明列 New UD3.1 UD-Q3_K_XL。判斷某個檔案時,必須追到該檔的提交與內容指紋。

以下固定比較舊版 4ca720788d1e01f1bff70c033e0d0028fd02e502(8 月 20 日),與新版 4af51b3542f775b0a8e4b310bfb3f17e01c306c9(11 月 12 日)。這兩個日期都是 repository 的 UTC 提交日期。檔案清單來自 舊快照 API與 新快照 API 的 siblings[].lfs.sha256;相同代表該欄位的完整值相同,並非只看檔名或四捨五入後的容量。

二、Unsloth Dynamic 3.1 逐檔清單:先找你的完整尾綴

下列四張清單涵蓋新快照中的 22 個 Qwen3.8-27B-UD-*.gguf 主模型檔;不把 BF16 分片、非 UD 檔、視覺 projector、MTP 或 imatrix 混進這個分母。每列省略共同前綴 Qwen3.8-27B- 與副檔名 .gguf。GB 採十進位,最後變動欄是該路徑的提交日期。

Unsloth Dynamic 3.1 逐檔清單:IQ1、IQ2 與 Q2 的容量和內容變更
兩份固定快照的內容指紋比較。來源:Unsloth Hugging Face API;AlphaLab 製圖。
Unsloth Dynamic 3.1 逐檔清單:IQ3、Q3 與 IQ4 的版本差異
Q3_K_XL 在 11 月 12 日另有更新,不能把所有 3-bit 檔案當成同一狀態。來源:Unsloth Hugging Face API;AlphaLab 製圖。

最容易忽略的反例正是 UD-Q3_K_XL:新舊大小同為 13,146,393,504 bytes,內容指紋卻不同。舊版 SHA-256 以 8c2a45ff 開頭,新版以 7b20f067 開頭。只看下載進度條顯示的 13.1 GB,會錯過這次變動;核對時仍應比較完整 64 字元。

Unsloth Dynamic 3.1 逐檔清單:Q4 與 Q5 的容量和內容變更
Q4_K_S 與另外兩個 Q4 檔的狀態不同;Q5 三個列出的 UD 檔都已變更。來源:Unsloth Hugging Face API;AlphaLab 製圖。
Unsloth Dynamic 3.1 逐檔清單:Q6 與 Q8 的容量和內容變更
Q6_K_XL 在本次兩份快照中內容相同;這是指定檔案的觀察,不是整個 Q6 家族的判定。來源:Unsloth Hugging Face API;AlphaLab 製圖。

這份清單回答的是「哪個檔案換過內容」,還不是「哪個最準」。有變更才值得進入新舊對照;指紋相同的檔案,單純再抓一次不會換到另一份模型內容。若你的本機檔不是上述舊快照,直接把自己的完整雜湊與目標檔對帳,不要硬套「相同/已改變」欄。

三、五步完成第一次更新判斷

第 1 步:「我現在跑哪個?」先保留舊檔與設定

建立舊版收據。在執行器找到模型的完整檔案路徑,記下執行器版本、GPU 與驅動、Context(上下文容量)、KV Cache 類型、GPU offload、並行數、聊天模板和採樣設定。把舊檔留在原處,另建新資料夾,避免更新後失去可回退的基線。若使用圖形介面,另存設定截圖;不要只抄模型顯示名稱。

macOS 可執行 shasum -a 256 "/你的路徑/Qwen3.8-27B-UD-Q3_K_XL.gguf";Linux 常用 sha256sum "/你的路徑/Qwen3.8-27B-UD-Q3_K_XL.gguf";Windows PowerShell 可用 Get-FileHash -Algorithm SHA256 "C:\你的路徑\Qwen3.8-27B-UD-Q3_K_XL.gguf"。請把示意路徑換成實際路徑,保留輸出的完整 Hash;大小寫不影響十六進位數值。

第 2 步:「新版是哪一份?」用完整 revision 鎖住

只下載指定檔案。已有 Hugging Face CLI 的讀者先執行 hf download --help,核對 --revision 與 --local-dir。依 官方 CLI 文件,revision 可以是分支、標籤或完整 commit;這次用完整 commit,讓日後重抓仍指向同一版。尚未安裝者先依該文件完成 CLI 安裝,再回來操作。

hf download unsloth/Qwen3.8-27B-GGUF Qwen3.8-27B-UD-Q3_K_XL.gguf --revision 4af51b3542f775b0a8e4b310bfb3f17e01c306c9 --local-dir ./qwen38-ud31-pinned

這行會下載約 13.146 GB 的單一檔案,先確認剩餘磁碟與網路配額;本篇沒有代你執行下載。要測別的量化,將完整檔名換成清單對應列,並保留同一 revision。不要省略檔名去抓整個 repository。下載後按第 1 步重新算雜湊,對照該快照 API 的 LFS SHA-256。

第 3 步:「指紋怎麼對?」完整走過 Q3 範例

核對內容,再載入。這次 UD-Q3_K_XL 目標值是 7b20f0679da6f5c6ec7971e241630f44fe1e123e5c99bfea90c433268b355723。若本機值一致,便有依據把這份檔案標成該快照的內容;若不一致,先查是否抓到另一版、另一個檔名或未完成的下載。雜湊一致證明內容一致,並不證明任務會答對。

對照 UD-Q6_K_XL 則會得到另一種決策:本次新舊快照 SHA-256 相同。若你的舊檔也與它一致,先保留即可;有空間不代表非得重下載。這就是「先對指紋」能立即省下的一次無效更新。

第 4 步:「24–32GB 顯卡裝得下嗎?」分開三本帳

先選保守的可運行配置。檔案大小是磁碟帳;主機 RAM 與 GPU VRAM 是運行時各自的帳。把磁碟容量直接當成顯存需求,或把已含權重的程序總用量再加一次權重,都可能算錯。Embedding 是 token 的向量查表;它放在哪裡,要看執行器與實際配置。

量化選型的磁碟、主機 RAM 與 GPU VRAM 三本帳
記憶體口徑示意,不是顯卡實測數據。分開記錄配置與峰值,再比較同一工作負載。

Unsloth 的比較圖有扣除 token embedding 的橫軸,也有加回完整檔案大小的版本。ExLlamaV3 的轉換文件列出 embedding 精度、主機 RAM 與磁碟串流等選項。因此「下載多了多少 GB」與「GPU 多占多少 GB」應分開查;不能從一張扣除 embedding 的圖,直接推得 24GB 顯卡能跑哪個完整配置。

24GB 級設備可先把 Q3/Q4 列為候選,32GB 級設備再視餘裕加入 Q5/Q6;這是安排測試的起點,不是硬體相容性保證。先沿用你已能運行的短 Context、單一對話配置,從啟動日誌確認 GPU 放置,送出固定問題後記錄峰值,再逐步增加 Context。KV Cache 像生成時的索引筆記,與權重檔分開占空間;長 Context、視覺附檔與並行對話,都要納入同一份配置。想練量測,可接著讀 GPU 用量與模型歸因教學。

第 5 步:「比較怎樣才公平?」只換一份模型檔

固定考卷和執行條件。把同一批繁中問題、新舊檔路徑、完整雜湊與設定存在一起。先用舊檔跑完,正常停止並重新啟動執行器,再用新檔重跑;核對日誌確實載入目標路徑。不要同時升級 Runtime、調模板、放大 Context,否則改善或退步很難歸因。

若已有 llama.cpp,可先用 llama-server --version 與 llama-server --help 留下環境證據,按 同版 server 文件檢查 -m、-c、-ctk、-ctv、--seed 與採樣參數。保留原本能工作的啟動方式,兩輪只換 -m 的本機路徑;不要為了模仿圖表,把自己的 Context 硬調到 128K 或 256K。固定 seed 有助追蹤,仍需多次重跑觀察波動。

準備 12 題作為入門小考卷:4 題繁中摘要保留人名、日期與否定句;4 題結構化輸出,逐項檢查 JSON 欄位及值;4 題唯讀工具任務,用虛構資料測工具名、參數、回填後回答。先寫好答案與通過條件,每份檔案各跑三輪,記「完整通過題數/12」、錯誤類型、端到端時間與記憶體峰值。這是建議的練習設計,沒有預設哪個版本會贏。

例如虛構工單寫「陳小姐取消週五交付,改為週一;金額維持 1,250 元」。摘要題要求保留改期方向與金額;JSON 題要求 delivery_day 是「週一」、amount 是 1250;工具題只讓它查詢這筆假工單,再回答日期。先把三種答案訂好,別因新檔措辭漂亮就臨時改標準。完整工具迴圈的驗收,可沿用 Qwen3.8-27B 本機 Agent 六關協定。

四、怎麼讀官方成績,才不會替自己預填答案?

官方更新把部分同體積結果描述為平均準確度改善 5–10%;本篇把它保留為供應商宣稱,不換算成你的繁中任務收益。其 Qwen 頁列出 Agent 測試使用 256K Context,其他測試 128K;這與短 Context、單卡、本機工具配置有明顯條件差異。KLD 衡量的是機率分布差異,也不能直接翻成「工具任務成功率」。

Dynamic 3.1 評測方法頁還列出 grader、容器與評分修正。這些細節有助追查結果,卻也提醒我們:換分母、Context、重跑次數或評分器,名次都可能改變。此頁同時涵蓋不同模型;不要把其中另一模型的 512K 設定搬到 Qwen3.8-27B,合成一套看似完整的測法。

對你而言,最有用的證據是「原本失敗的題救回多少,同時原本會做的題退步多少」。分開記新救回、兩版都過、兩版都錯與新增錯誤;再看時間與記憶體是否仍在預先訂好的底線內。小考卷用來篩選候選檔,遇到正式工作前,再拿更多未參與調整的題目確認。

五、更新、保留還是等待?照第一個缺口走

  • 本機雜湊與目標相同:保留現檔;若仍有錯誤,下一步查配置與任務,不把重下載當作修復。
  • 內容已變、舊版有具體痛點:另存新版,做同條件對照;通過原本會做的題,並改善目標錯誤後,再逐步替換。
  • 新檔載入後沒有足夠餘裕:先回退,或另開一輪只調 Context/offload 的容量測試;不要把降配置後的成績混進原本比較。
  • 結果差距小、各輪互有勝負:保留舊檔,增加未用過的題目與重跑輪次;先等待更能解釋差異的證據。

常見問題:八個先講答案的判斷

1. 檔名一樣,就一定還是舊檔嗎?

不一定。Q3_K_XL 這次連 bytes 都相同,SHA-256 卻改變;請同時記錄完整路徑、revision 與指紋。

2. repository 顯示剛更新,全部 GGUF 都變了嗎?

不一定。README、附檔與個別量化各有提交歷史;本次 22 個 UD 主檔中有 8 個指紋相同。

3. Q6 沒更新的說法可以直接套用嗎?

不可以。完整尾綴決定你在問哪份檔案;本次相同的是 Q6_K_XL,另外三個列出的 Q6 檔已改變。

4. 24GB 顯卡就應該選 Q4 嗎?

不一定。先把它當候選,固定 Context、KV 與 offload 後量峰值;顯卡也可能同時被其他程序使用。

5. 下載完成,就可以刪舊檔嗎?

先保留。完成完整雜湊核對與同題回歸,再決定是否替換,才能在新錯誤出現時回退。

6. KLD 降低,就代表繁中 Agent 更可靠嗎?

不能由此直接推出。分布更接近參考模型與多輪工具任務完成,是不同驗收問題。

7. 三輪 12 題勝出,就證明普遍更好嗎?

還不夠。這只能支持該環境與該小考卷的選擇;應再看新增錯誤與未用過的代表題目。

8. 沒空測,要今天立刻更新嗎?

可以先保留已能完成工作的舊檔。先把完整雜湊和設定存好,等有明確痛點與可比較的時間再換。

給新手的三個重點

  • 先確認哪一份內容改變,再問新版值得下載多少。
  • 把磁碟、RAM、VRAM 各自量清楚,按實際配置選候選檔。
  • 一次只換模型檔,保留舊檔與同一份考卷,讓更新可驗收、可回退。

接著閱讀

左右滑動查看更多推薦

下一步:先替你手上的檔案留一張收據

今天先做一件事:找到正在使用的 GGUF,算出完整 SHA-256,和執行器設定存進同一個資料夾。值得更新=檔案真的變了+你的任務有收益。指紋不同,才開始安排新舊對照;確認收益,再把新版接進日常工作。想繼續練本機 AI,可到 AI 專區選下一題,或透過 AlphaLab 課程安排系統性實作。

ALPHALAB 社群

有問題?來 Telegram 聊

和 Terry、編輯、其他網友一起討論這篇文章。提問、分享觀點,回覆更即時。

加入 Telegram 討論

📩 訂閱 AlphaLab 電子報

週日 Weekly 週報+週二、週四 Alpha Signal,每週最多三封。

我們不會 spam,隨時可退訂。已訂閱?管理訂閱偏好(會寄登入連結到你的信箱)

主題篩選與退訂說明

寄送日期以台灣時間為準。主題偏好會篩選每期精選,並非每篇新文章的即時通知;當期符合主題的文章不足時會略過寄送。

未勾選任何主題會收到所有主題的精選,並不會停止寄信。

取消勾選 Alpha Signal 可停止週二、週四短報,仍保留週日週報。若要停止所有電子報,請使用信件底部的「取消訂閱」。