你看到 Axion 1.0-35B 的成績圖,想把現在的本機模型換掉,卻發現下載頁寫著 Reproduction。這份權重和論文裡受測的模型是同一個嗎?和它的基底相比,進步究竟在哪裡?先認對考生,再讀成績,會比立刻下載更有用。
這篇寫給第一次比較開放權重、願意記錄設定的新手。你會學會查發布者與版本、拆開不同評測口徑,再準備一份可重跑的小考卷。有 GPU 環境的人可接著啟動服務;一般筆電先完成身分與評分工作表,也能做出下一步決定。
以下依 2026 年 11 月 8 日查閱的一手文件整理。本文沒有執行模型推論;論文與模型卡的結果各自標明來源,後面的題組是待執行的評估設計。
先說結論:先驗身分,再比基底
換模型的證據=權重身分+公平對照+合格交件成本。像買同款食譜做出的麵包:食譜得獎,不表示每一家照做的成品都已拿到同一張獎狀。社群重現值得試,但要拿它自己的成績單。
- 先把「論文模型」「社群重現」「你實際下載的量化檔」分成三個對象。
- 基底先選 Qwen3.6-35B-A3B;固定執行器、精度、工具與預算,再逐題配對。
- 看到提升先查題目、工具與計分方式;決定切換,則看自己的工作能否穩定交件。
一、Axion 1.0-35B 是什麼?先分清模型與執行層
依 官方程式庫,Axion 的 35B 研究模型由 Qwen3.6-35B-A3B 出發,經兩階段 SFT(用示範答案繼續訓練)與 RL(依結果回饋調整行為)。可把它想成原本受過教育的研究助理,再練習解題、找資料與使用工具;不是從空白開始教。
MoE(混合專家)像有許多小組的公司,每處理一個 Token,選部分小組參與。35B 總參數與約 3B 活躍參數描述不同事情;載入權重、上下文快取與執行器都要占資源,不能拿活躍參數直接當記憶體需求。MoE 的基本概念可先當作補充。
模型負責提出下一句話或工具呼叫;Harness(執行層)負責真的查網頁、接收結果、繼續回合與停止。像研究助理和辦公室的分工:助理說「查這個網址」,仍要有人把網頁帶回來。Agent Harness 入門把這個迴圈解釋得更完整。
二、Axion 1.0-35B 權重身分:四步查清下載的是誰
①「認發布者」:官方連結,不等於官方權重
怕名稱相同就當成同一份?先看 官方 Models 段落:它推薦 Axion1-0 帳號的社群重現,同時明確說這不是官方 Axion checkpoint。Checkpoint 是某次訓練保存下來的權重快照。官方推薦可以作為來源線索,不能抹去重現身分。
②「鎖版本」:把會移動的 main 換成提交碼
到 模型卡讀標題的 Reproduction,再開 Files and versions 查看 commit。本文查閱的 Axion 快照是 d4fdb2d6d284ecc24359bfa161a58b835a63c754;基底快照是 345d467b117d1fd5eda9b879a5988de9ae5f47a7。這些是版本識別,不是品質認證。
先在空白練習資料夾執行下列指令,只保存這份文字模型卡,不下載大權重。打開檔案,確認標題、Usage 與 Performance;把來源網址也存進工作表。Hugging Face 版本下載文件說明如何以完整 commit 固定檔案。
curl --fail-with-body --location --output axion-model-card.md \
https://huggingface.co/Axion1-0/Axion-1.0-35B/raw/d4fdb2d6d284ecc24359bfa161a58b835a63c754/README.md
③「認成品」:原精度與量化另開一列
若選別人轉出的 GGUF 或低位元權重,再記轉檔發布者、原始模型版本、檔名、精度與檔案 SHA-256。雜湊像檔案指紋,幫你確認兩次拿到相同內容;它不替發布者背書,也不代表檔案安全或能力相同。下載前先核對授權與容量。
④「認成績」:每個數字都接回同一個考生
模型卡把 Paper 與 Reproduction 分列。之後自己的紀錄應再加一層「本次下載檔+本次設定」。讀者在量化版跑出的結果,不能直接改標成 BF16 原權重;論文、重現者與你自己,三份證據各自保留。

三、基底其實有對照:先看對表,再看差距
想知道後訓練有沒有幫助?先翻技術報告 Table 2。它沿著基底、兩階段 SFT、RL 列出結果;HLE 欄使用 130 題純文字子集。主表 Table 1 的 HLE 則是完整題集,限制部分網站存取。兩個欄名相近,考卷不同。

論文的設定是每項多次執行後報單次最佳分數;多數 benchmark 三次,BMB 五次。這和「所有回合平均」回答不同問題。依評測協定,跨來源的工具權限與設定也可能不同;圖上的高低適合產生候選,不足以替你的工作做採用決定。
社群模型卡的完整 HLE 數字,不能與論文基底的 HLE-130 相減當作提升。訓練階段表也是連續 checkpoint 比較,不是移除單一元件的因果實驗。白話說,看到助理上完幾堂課後進步,可以肯定這段訓練路徑值得研究;仍要另做實驗,才能拆出每堂課的獨立效果。
四、先固定測試桌:Axion 與基底共用五項條件
第一次只換模型。原訊息文字與工具定義相同,但各自保留正確的 chat template(把對話轉成模型輸入的格式),並保存版本或雜湊;硬套同一個不合適模板,反而可能把格式問題測成能力差。若遇到轉檔或 Runtime 差異,先參考本機模型 A/B 排查。

工作表先記:模型完整 ID/revision、執行器版本、權重精度、硬體、模板、reasoning parser、tool-call parser、system prompt、採樣參數、context 上限、每次輸出及整題總預算、工具回傳快照。每次請求的上限,和整題跑十輪的總量,是兩筆帳。
有已備妥的八 GPU vLLM 環境,再參考下列模型卡範例;八張是示範配置,不是最低硬體需求。本機資源不足就先完成考卷,不必為了這篇練習租機或訓練模型。依Axion 推論指南與Qwen 基底模型卡核對相容版本,先用 python -m pip show vllm 記下版本。
vllm serve Axion1-0/Axion-1.0-35B \
--revision d4fdb2d6d284ecc24359bfa161a58b835a63c754 \
--served-model-name candidate --host 127.0.0.1 --port 8000 \
--tensor-parallel-size 8 --dtype bfloat16 --max-model-len 131072 \
--generation-config vllm \
--reasoning-parser qwen3 \
--enable-auto-tool-choice --tool-call-parser qwen3_coder
測完 Axion,先停止原服務並確認資源釋放,再將命令的模型換成 Qwen/Qwen3.6-35B-A3B,--revision 換成前述基底提交碼,其餘本輪條件維持相同。--generation-config vllm 讓兩組從執行器的預設起步;每個請求仍明寫採樣與輸出上限。vLLM serve 參數文件可核對版本選項。若任一組啟動失敗,記「環境未通過」,先排錯,不把它填成答題零分。
先用 curl --fail-with-body http://127.0.0.1:8000/v1/models 核對服務,再依模型卡的 Chat Completions 範例問「2+3」。算出 5 只證明最小文字管線可用。工具呼叫文件說明解析出的呼叫格式;真正執行工具、加入工具訊息與繼續請求,仍由你的 Harness 處理。
curl --fail-with-body http://127.0.0.1:8000/v1/chat/completions -H 'Content-Type: application/json' -d '{"model":"candidate","messages":[{"role":"user","content":"What is 2 + 3?"}],"temperature":0.6,"top_p":0.95,"max_tokens":4096}'
五、跟著走一題:先寫答案本,再觀察完整回合
先做三類、每類四題的小考:公開文件查找、固定數字計算、查找後再計算,共十二題。每題預先寫答案、證據位置、容許格式與停止條件;保留部分新題,最後才拿來驗收。這是起步用的教學題數,不是可靠度認證。AI Evals 入門可補上題目、評分器與保留集的觀念。
完整例題可以這樣設計:「讀取固定網址的來源卡,找出 Stage I 與 Stage II 的示範數,加總後輸出總數與網址。」先由你把官方 README 存為唯讀文字快照,記原網址、commit 與檔案雜湊;工具只准取得這份快照,計算器只准相加兩個數,不開任意 Shell、帳號或付款權限。
依該版 README,答案本先填 10,819+7,544=18,363。這是示範軌跡數的加總,不是獨立題目數或 Token 數。預期可接受的路徑是:要求讀取 → 工具回來源 → 提取兩數 → 計算 → 交出 18,363 與正確網址;模型可以用其他合格順序,不必逐字模仿。
你的紀錄則逐輪寫實際發生什麼:模型選哪個工具、參數是否有效、工具回什麼、最後答案是否符合條件。它若找到兩數卻提前說完成,就記未完成;若參數無法解析,記格式錯;若工具斷線,另記環境錯並按預先規則補跑。不要只留下最後那句漂亮答案。
每題各組先跑三次,全數保留,並輪替哪組先跑;十二題乘兩模型乘三次,共 72 個任務回合。這個數字是測試設計,不是已完成的測量。各次開新對話、重設工具狀態;冷啟動與暖機後延遲分欄,避免快取或載入順序替其中一組加分。
六、怎樣決定換?品質、故障與總帳各看一欄
先寫採用門檻,後看結果。例如你可規定:來源、數字與工具權限錯誤都要逐題檢查;新模型至少維持基底的合格表現,且總等待與資源符合預算。門檻是你對工作訂的規則,不是本篇保證 Axion 能達成的數值。
- 品質:全題成功率=合格任務回合÷全部實際執行回合;工具錯與提前完成保留在分母,另列原因。
- 配對:逐題列「都對、都錯、只有 Axion 對、只有基底對」;重跑共享題目,不能當成很多獨立新題。
- 成本:累計所有輪次輸入/輸出 Token、工具費、重試與牆鐘時間,再除以合格交件數;合格交件數為零時,記為未定義。
- 環境:服務中斷按同一預先規則重跑,仍保存原始事件;同時報原始全流程結果與有效模型比較,避免悄悄刪敗例。
自己託管時,Token 是資源線索,不等於一張固定單價的帳單;還要記 GPU 使用時間或實付租機費。若只量任務開始到結束,就稱為整題等待時間;工具網路、排隊與推論分開,才知道慢在哪裡。需要更完整的系統紀錄,可接著讀最小 Agent Harness 實作。
決策順序:身分未釐清 → 先補來源;管線未跑通 → 先排環境;品質未達門檻 → 保留基底;品質達標、總成本也可接受 → 小範圍試用並留回復路徑。若兩者擅長不同題型,也可分工,不必把一次試驗變成全面替換。
常見問題:八個先講答案的判斷
1. 官方 GitHub 推薦,就能叫它官方權重嗎?
不能。本文查閱的 README 明確稱它為社群重現,並區分官方 checkpoint 身分。
2. 論文完全沒比基底嗎?
有。Table 2 列出基底及連續訓練階段;要注意 HLE-130 與完整 HLE 的區別。
3. Reproduction 的分數可以套到 GGUF 嗎?
先驗你下載的檔。模型卡結果對應它發布的重現,換精度或執行器後,另外留下品質與設定紀錄。
4. 約 3B 活躍,就只要載入 3B 權重嗎?
不要這樣估。活躍參數描述每步計算,記憶體還涉及完整權重、快取與執行策略。
5. 開了 tool-call parser,就會自動上網嗎?
還要接工具執行迴圈。解析、執行、回傳工具訊息與停止,各自檢查一次。
6. 三次裡挑最好一次,就能估日常成功率嗎?
那是最佳單輪表現。日常穩定性應保留全部回合,報合格率、失敗型態與時間分布。
7. 沒有 GPU,今天還能做什麼?
可以完成身分查核、固定文字來源、手算答案與工作表。模型成績先留空,等合適環境再填。
8. 現在值得換成 Axion 嗎?
值得列入科學推理與工具研究候選;是否切換,取決於同條件下你的合格交件和成本。本文未跑出採用勝負。
給新手的三個重點
- 先認成品:同一名稱、配方與推薦連結,仍需查發布者與精確版本。
- 先讀同一張考卷:完整 HLE、HLE-130、最佳單輪與全輪平均各自標清楚。
- 先做配對:固定桌面條件、留下每個工具回合,再決定在哪些工作保留或切換。
接著閱讀
左右滑動查看更多推薦
下一步:先留下兩張身分卡、一題答案本
今天先保存 Axion 與基底的完整模型 ID、commit、精度與模板,再手算那題 18,363,寫好什麼算交件。記住:換模型的證據=權重身分+公平對照+合格交件成本。能把一題的來龍去脈對清楚,再擴大考卷,才知道值得換的是哪一段工作。
想繼續建立自己的 AI 學習路徑,可從AlphaLab AI 專區選下一個練習,或到AlphaLab 課程安排系統化學習。先把第一份可核對的紀錄做出來。





