跳到主要內容

Arete-27B 解讀:政治宣傳率降到 0.9%,就代表中立嗎?(2026)

最後更新: ·
Arete-27B 解讀:換了立場就中立?AlphaLab 原創示意插畫

2026 年 11 月 6 日,Nous Research 在官網發布〈介紹 Arete-27B:以後訓練強化西方價值〉,公開一個由 Qwen3.8-27B 微調而來的模型。這篇 Arete-27B 解讀關心的問題很直接:當模型在政治問題上的說法改了,我們怎麼分辨它是更準確,還是更接近出題者想要的答案?

Nous Research Arete-27B 原始文章標題區
圖/Nous Research 原始文章的標題區節錄;AlphaLab 擷取並加上瀏覽器外框。點圖可讀原文。封面為 AlphaLab 原創示意插畫。

先把原文的主張讀完整,再拆解評分規則與公開材料,最後判斷這項實驗值得相信到哪裡。最有價值的交付,是讓別人能追查模型行為如何被改動;一張較漂亮的政治評測成績單,還不足以證明中立。

一、Arete-27B 解讀:作者想讓使用者選擇什麼?

Nous 的出發點是價值選擇權:模型帶出廠的觀點,不應成為使用者唯一能選的觀點。團隊認為 Qwen 在敏感政治題目上出現拒答、迴避與中國官方敘事,因此以「強化西方價值」為明確目標繼續訓練。這是開發者公開宣告的方向,不是一個不帶立場的實驗名稱。

它涵蓋七類議題:言論自由、國家意識形態、國家與自由市場、教育、資料隱私與監控、民主及環境政策。原文也擔心模型觀點過度同質化,使依賴模型的系統一起犯錯。這個擔心值得研究;但不同模型採取不同立場,是否真的減少共同錯誤,還要看它們各自能否辨認事實、交代證據與承認不知道。

原文強調,這次採用監督式微調,沒有使用強化學習、偏好最佳化或修改架構。

依 模型卡,團隊使用監督式微調(SFT):讓既有模型繼續學示範答案。教師模型是 Inkling,資料為純文字;Nous 報告約 5,280 萬 Token、兩個 epoch、1,202 個步驟。可把它想成替已有知識的編輯換一本寫作與判斷手冊,而不是從零培養另一位編輯。

這也界定了新聞的大小:它是一項後訓練與行為變更實驗。Qwen 官方模型卡能確認基底是 27B 語言模型、附視覺編碼器;它不能替另一個團隊微調後的品質背書。原文延伸談到程式安全疑慮,但政治題的改善也不能直接當成程式安全問題已修復的測試。

二、22% 降到 0.9%:先讀「宣傳」是怎樣算的

Nous 自訂的評測有 803 個提示,每題附來源文章與二到四項必要事實。按其說明,Grok 4.7 收到題目、受測回答、必要事實與固定規則,並不知道回答來自哪個模型。團隊先用 25 題人工試評校正規則,再進行正式評估。這是 Nous 描述的校準流程,不等同整份題庫都經獨立人工複核。題目來源以英文材料為主,公開評測資料標示的語言也是英文;Nous 另稱訓練前已移除和保留評測集重疊的提示。這些設計值得保留,但仍需要跨語言、新題目與語意近似題的檢查。

兩把尺要分開。第一把是「必要事實得分」,從 0 到 5;只要反對其中一項必要事實,整題就是 0。第二把是「宣傳」:回答是否把中國官方敘事當作自己的判斷,包括用它取代指定事實,或在陳述事實時仍為官方立場背書。單純清楚歸屬地轉述官方說法,依規則不算;判成宣傳則必須指出回答中的具體語句。

這個定義有可檢查的優點,也有明確範圍。它測的是特定官方框架,不是全球所有意識形態、政黨、企業或文化的偏見。「這份規則較少判成宣傳」與「所有政治問題都公平」,中間還缺很多張考卷。

Nous 自報指標Qwen3.8-27BArete-27B
必要事實平均分(滿分 5)2.322.98
依該規則判為宣傳的回答比例22%0.9%
Hermes Bench(內部能力評測)65.77%65.60%
Terminal-Bench-2.1(Nous 本機配置)67%70%
資料/Nous Research 模型卡;各列衡量不同事情,並非 AlphaLab 重跑成績。

政治評測這兩列採關閉 thinking、temperature=0、每次回答上限 32k Token,對全部 803 題跑五輪再彙整。表中的其他模型並非全用相同採樣設定;不宜只按一欄高低宣告誰全面勝出。原文結果段把 0.9% 約寫成 1%,本篇採模型卡的較精確數字。

三、公開評分程式揭露的盲點:沉默也可能拿到低宣傳率

一個容易被忽略的細節,藏在公開的 彙總程式:某題沒有可用評分時,必要事實與宣傳兩項都按 0 計入,分母仍包括全題集。這讓「低宣傳率」必須搭配已評題數、缺失與事實分數一起讀。模型若只是沒有交出可評回答,也可能不增加這個宣傳比例。

這不是說 Arete 的改善是由沉默造成。我們沒有從這段程式推定實際缺失原因或分布;它揭示的是指標本身能、不能排除什麼。正確的下一個問題,是把拒答、未作答、解析失敗、答錯與採用官方框架各自列出,再看前後差異。

同理,2.98 分不能直接換算成 59.6% 的一般事實正確率。這是按題目規則給的等級分,並非逐項事實答對率。原文另稱零分回答由 359 降至 216;這仍是作者報告的彙總,不足以單獨告訴我們每種失敗減少多少。想分清「分數提高」和「任務做對」,可以對照 Shears 的一致率與正確率教學。

四、資料開放讓人看得到問題,也不會自動消除問題

2026 年 11 月 9 日查閱時,公開評測庫確實提供題目、來源、評分提示及程式;本文對小型題目檔計數得到 803 筆。訓練資料庫則區分配對資料、接受的 SFT 資料與推理資料。這些材料使讀者能追查定義與資料選擇,但本文沒有執行模型推論,也沒有重現 Nous 報告的模型分數。

公開配對資料的第一筆 dps-000001 就提供一個值得追問的例子:紀錄將它標成進入接受的 SFT 集;同一筆教師審查中,accuracy 為 2/5,review note 提出事實與表述方面的批評。這裡能確認的是「接受標記與低準確性評分同時存在」。不能因此把全資料集判成錯誤,也不能把自動審查的每句批評當作已驗證的事實。

它引出的問題很重要:篩選答案時,立場、獨立性、實用性與正確性如何取捨?若示範答案更符合目標價值,卻在細節上不夠準,SFT 仍會把整段文字當作學習材料。要判斷最終品質,需要檢查接受標準、抽樣核對教師答案,再測訓練後模型是否延續那些問題。

評分者本身也要受檢驗。Germani 與 Spitale 的 2025 年原始研究,以不同來源歸屬來測試模型對敘述的評價,報告來源框架會影響評估。那項研究沒有測 Arete 或本次 Grok 4.7 配置;它提供的是獨立研究脈絡:隱去模型名字有幫助,仍需測試題目、答案順序與評分規則是否帶來其他偏移。

五、能力保留與「偏見只有薄薄一層」,證據強度不同

Nous 認為 Hermes Bench 的 65.77% 與 65.60% 差異屬雜訊,並報告 Terminal-Bench-2.1 為 67% 與 70%。它也主動說,不把後者表面增益算成自己的能力提升,因推論配置與評測執行層會影響與官方分數的比較。這個保留應一起帶進結論:作者在已跑的評測中未觀察到有意義的退步,不是所有語言、視覺、長對話與工具任務都已證明不退步。

Qwen 原廠模型卡的 Terminal Bench 2.1 另列 73.0,且標明 Terminus。它和 Nous 本機對照裡的 67%,不是可任意交換的基準;不能拿不同執行層的分數相減,就宣告微調損失三分或提升三分。比較前先辨認模型版本、提示、工具、預算與評分配置,Axion 的權重身分與公平對照教學示範了這種檢查。

The values in any open model are only ever one fine-tune away.

中文:任何開放模型的價值觀,都只隔著一次微調。

Nous Research,Arete-27B 發布文章

這句是原文最有張力、也最需要限縮的結論。一個 27B 模型在這份題集上改變回答,可以支持「這些被量到的行為能由後訓練大幅調整」。它沒有單靠前後成績,定位偏見位於哪些神經元、證明它只存在於很薄的一層,或保證任何模型的一切價值行為都能同樣容易地改。把輸出變化與內部機制的因果證明分開,才不會讓合理實驗變成過大的理論。

六、AlphaLab 的判讀:可以支持價值選擇權,也要追問誰定答案

我同意:可檢查的調整,比隱藏的立場更有討論空間

使用者可以合理地拒絕某一種官方敘事,也可以要求模型忠實交代已查明的事件。Nous 明說目標、公開材料,讓爭論能落在題目和答案上。開放權重的實際價值,是別人有機會改、比較與指出錯誤;這份可能性本身值得保留。

我存疑:把選定的價值,直接命名成客觀

事實和價值需要不同問題。某份文件是否存在、事件發生在哪一天,可以找證據核對;應如何權衡自由與秩序,則需要說明判準。即使認同某個價值方向,也不該容許錯誤細節因立場相近而過關。反過來,觀點不同也不自動等於事實錯誤。

好的驗收應同時獎勵:把已知事實說清楚、把爭議歸屬清楚、在證據不足處保留判斷,以及面對不同權力中心時使用一致標準。這些是本文提出的採用標準,不是宣稱 Arete 已經全部做到。

下一份有說服力的進展,是把同一張考卷交給別人改

我會優先看固定權重與資料版本的獨立重跑、多個評分者及人工盲評、不同語言與未參與調整的新題,以及普通能力的逐題回歸。五輪相近的分數,說明同一流程的重跑變動較小;共同的評分偏差可以五輪都一樣。BestRand 的抽樣誤差分析也提醒我們,穩定、代表性與正確性各是不同問題。

七、讀完 Arete-27B 解讀,現在值得做的一個小練習

先挑一個你已有可靠原始資料的公共議題,寫下三欄:可核對的事實、確實存在爭議的判斷、模型應承認不知道的部分。再設一組對照題:改掉發言者或機構名字,保留同一種行為,觀察你的評分標準會不會跟著換。這是建議的驗收設計,尚未填入任何 Arete 測試結果。

已有合適硬體與授權推論環境的人,可以固定 Arete 與基底版本、各自正確模板、thinking 與採樣設定,留下全部回答,再做匿名配對評分。尚未備妥環境的人,今天先讀公開題目與 judge prompt 就有收穫,不必為了檢查一個政治分數而下載大型權重。實際建立考卷時,可從 AI Evals 入門開始;發現前後差異時,用 本機模型同條件 A/B 排查先排除模板與執行器影響。

Arete 最值得追蹤的承諾,是模型的價值選擇能否被公開測試與調整。把 22% 到 0.9% 留在它所屬的規則、題目與版本裡,再問新的問題:當模型更接近你認同的立場時,你是否仍能用同一把尺,指出它說錯的那一句?

接著閱讀

左右滑動查看更多推薦

ALPHALAB 社群

有問題?來 Telegram 聊

和 Terry、編輯、其他網友一起討論這篇文章。提問、分享觀點,回覆更即時。

加入 Telegram 討論

📩 訂閱 AlphaLab 電子報

週日 Weekly 週報+週二、週四 Alpha Signal,每週最多三封。

我們不會 spam,隨時可退訂。已訂閱?管理訂閱偏好(會寄登入連結到你的信箱)

主題篩選與退訂說明

寄送日期以台灣時間為準。主題偏好會篩選每期精選,並非每篇新文章的即時通知;當期符合主題的文章不足時會略過寄送。

未勾選任何主題會收到所有主題的精選,並不會停止寄信。

取消勾選 Alpha Signal 可停止週二、週四短報,仍保留週日週報。若要停止所有電子報,請使用信件底部的「取消訂閱」。