跳到主要內容

Nemotron 3.5 Transcribe 解析:逐字稿聽指令,英文 WER 4.71% 怎麼看?(2026)

最後更新: ·
Nemotron 3.5 Transcribe 指令式轉錄原創示意封面

2026 年 10 月 28 日,NVIDIA 在研究網站發布了〈NVIDIA Nemotron 3.5 Transcribe: Intelligent Transcription with a Speech LLM〉。這次 Nemotron 3.5 Transcribe 的看點,是同一段錄音可以先說清楚「要怎麼抄」:保留口頭語、整理成書面格式,或附上說話者標記,再由同一個模型處理。

NVIDIA Nemotron 3.5 Transcribe 原始發布頁與日期
圖/NVIDIA 研究網站;AlphaLab 擷取並加入瀏覽器外框。點圖閱讀原文。

想像訪談裡有人說「呃,六點半」。研究者可能要保留「呃」,字幕編輯想省略口頭語,行事曆則希望看到「6:30」。這三種需求可以同時合理。真正的問題是:模型有沒有照指定規格轉錄,以及改寫格式時,有沒有動到原本的意思。

下面先還原原文的模型設計,再核對跑分與適用邊界,最後談這類模型值得如何評估。本文依公開原始資料分析,未在 AlphaLab 執行模型推論;文中的測試成績均保留其發布者與測試範圍。

Nemotron 3.5 Transcribe 改變什麼?把轉錄規格放進每次請求

The transcription style is chosen with a natural language instruction for each request, without retraining.

中文:每次請求都能用自然語言指令選擇轉錄風格,無須重新訓練。

NVIDIA,發布原文

原文的主張不是「把錄音寫得更漂亮」而已。它把逐字、書面形式、專有名詞提示、說話者歸屬、事件標記與翻譯,視為同一份聲音的不同輸出要求。這讓使用者有機會在請求時選規格,而不是先接受一份固定格式,再接另一套文字整理流程。

依技術報告,模型把語音編碼器、說話者分段訊號與 Nemotron 3.5 Lightning 語言骨幹接在一起;另有 CTC 對齊模組,替生成的文字對回音訊時間。辨認說了什麼、區分誰在說,以及把文字放回時間軸,是相互配合的工作。想先理解分段與轉錄的差別,可接著讀Nemotron 3 說話者分段教學。

Nemotron 3.5 Transcribe 官方總覽:聲音與指令連到多種轉錄形式
圖/NVIDIA。左側列出音訊與任務指令,中央是語音、說話者與語言模型,右側示範不同輸出。圖中效能數字屬 NVIDIA 特定配置,不能當成本機速度承諾。

這張圖適合讀成一份功能地圖:同一個輸入,在不同指令下可以有不同格式。它不是各種語言都同樣準確的證明,也不能由整合進一個 checkpoint,就推定整條處理鏈只剩一個零件。

Nemotron 3.5 Transcribe 的英文 WER 4.71%:先問這張考卷算了哪些題目

NVIDIA 在發布頁報告:九個英文公開測試集的平均詞錯誤率(WER)為 4.71%。WER 把替換、刪除與插入的詞數,加總後除以標準答案詞數;越低越好。它並不表示每段錄音都有 95.29% 的內容正確,更不能轉成會議結論或重要金額的正確率。

更值得注意的是,本文於 2026 年 10 月 31 日查閱Open ASR Leaderboard時,其英文預設表顯示 5.33%。這個平均還納入兩組私有測試彙整,與 NVIDIA 的九組公開集平均範圍不同。對公開表中九個已四捨五入的數字重算,平均約為 4.70%;它與報告的 4.71% 接近,卻仍不是逐項完全相同的重現結果。

數字出處與範圍應如何解讀
4.71% WERNVIDIA 報告;九個英文公開集發布者在該評測配置下的結果
5.33% WER公開排行榜英文預設表;另含私有集彙整較廣測試範圍的另一個平均
7.56% → 6.16%NVIDIA 報告;Preference-ASR,預設/附風格指令偏好感知評分下,指定格式的收益

第三列來自技術報告表 11。Preference-ASR 會把要求的大小寫、數字格式與口頭語處理納入評分;因此加上指令後由 7.56% 降至 6.16%,支持的是「在這個測試裡,更符合指定規格」。不要把這個改善換成所有錄音的辨識能力都提高同樣比例。

這也是新一代語音模型值得重視、卻需要更細評估的地方。傳統的一張抄寫考卷,可能只承認一種答案;當讀者可以選格式,評分也要知道當時選了什麼。反過來說,格式符合了,仍須另查內容是否忠於聲音。

40 種語言、一小時錄音:覆蓋範圍與品質要分開讀

官方模型卡列出 40 種轉錄語言、最長一小時音訊與 65,536 token 上下文;這些是宣告的支援範圍。語言矩陣把不同語言分成不同品質層級,其中華語(Chinese Mandarin)列為 Supported,表示可能需要微調。這不應被寫成繁體中文輸出、特定口音或中英夾雜錄音已獲得同樣成績。

同一張模型卡也說明,音訊理解、推理與語音指令遵循的評估僅涵蓋英文。把「40 種轉錄語言」擴成「40 種語言都能可靠回答錄音問題」,會跨過文件所提供的證據。對華語工作,應另外看字詞、專有名詞、文字形式與任務是否吻合。

說話者標記也要守住意義:標成 speaker 0 或 speaker 1,是區分這段錄音裡的聲音,並非確認現實身分。技術報告還把遠距收音的華語會議列為挑戰。多人插話時,除了抄對字,更要核對這句話歸給了誰;字句正確、發言者錯置,仍可能讓會議紀錄的責任歸屬出錯。

報告的限制章列出的說話者歸屬轉錄上限為八位;報告也記錄長錄音可能進入重複生成迴圈,並說明長篇轉錄成績會先清理已產生的重複輸出,再重新計分。評估時應保存是否採用相同清理方式,讓模型與服務配置一起接受比較。

2,238 倍即時速度,與你等待一份稿件多久,是不同問題

This is an offline model.

中文:這是一個離線音訊模型。

NVIDIA,模型卡 Prompt Guide

「離線」在這裡指處理錄音的模式;模型卡明確區分它與即時串流 ASR。內部分塊處理,不等於電話進行中就能逐句即時交付。若你要的是邊聽邊插話的語音 Agent,可比較串流轉錄與語音 Agent 的邊界,不要只比較產品名稱中的 Transcribe。

NVIDIA 宣稱最高每秒處理 2,238 秒音訊,條件包含單張 RTX PRO 6000 Blackwell Server Edition、NVFP4、DFlash2 與優化的 Nemotron Transcribe NIM。報告的服務效能圖把吞吐量與中位請求延遲分開畫,並改變同時請求數;這個峰值反映併發處理能力,不能拿一小時除以 2,238,就承諾任何單份錄音都在那個時間完成。

模型卡更註明,這些服務優化尚未納入發布時的開放原始碼版本;發布日的開發用整合預期約慢兩倍。這是官方對兩條實作路徑的描述,並非本文測出的固定倍率。部署時要分開記錄權重精度、服務引擎、批次量與是否要求時間戳。

開放權重提供了選擇部署位置與調整流程的空間,硬體與維運仍有成本。若只是探索現有本機語音工具,可以先讀NeMo-Speech.cpp 本機語音 API 教學;它介紹的模型與配置,不能自動套上這次發布的效能數字。

AlphaLab 的判讀:更有價值的,是把「怎樣才算抄對」說清楚

一、我同意:讓格式可控,能減少交接時的歧義

一份訪談稿從研究者交到編輯手上,經常會改變用途。若一開始就能指定保留口頭語、數字採何種寫法、是否標示說話者,就有機會讓產物更接近工作需要。這次發布值得肯定的,是把這些要求納入模型任務與公開評估,而不只追逐一個通用 WER。

但規格可選,也意味著規格要保存。把提示、模型版本與轉錄稿一起留下來,之後才能區分「模型聽錯」「指令要求刪掉」「文字形式改了」三類差異。否則兩份稿件不一樣,團隊可能連自己在比較什麼都無法確定。

二、我存疑:整合得更順,會不會讓錯誤更難被發現?

當轉錄、翻譯與整理都能交給同一套模型,介面會更簡單;可是發生偏差時,讀者也更容易把最後一份流暢文字當成原始證據。例如把「大概」省略,可能只是讓句子順暢,也可能把不確定的發言改成肯定。這裡描述的是需要測試的失敗情境,並非本次已觀察到的模型個案。

因此,重要錄音值得保留兩層成果:一份偏忠實的轉錄與時間位置,一份符合閱讀用途的版本。兩份可以來自同一模型,仍應分別驗收。時間戳讓你較容易回到原音,但把一個字對到某個時刻,並不足以證明那個字聽對了。

三、下一個關鍵指標,是每份合格稿件需要多少修正

排行榜能幫你縮小候選,實際選擇還要看錯誤代價。字幕少一個口頭語,與客服紀錄少一個否定詞,不能只按同樣一個錯字計價。除了整體錯誤率,還應另記人名、金額、否定、說話者歸屬,以及人工修稿時間。這與語音 Agent 驗收的思路相通:每項成績都要接回它想完成的工作。

現在怎麼做?用同一段聲音,檢查兩種規格

先選一小段你有權使用、沒有私人資訊的錄音,人工標出一個數字、一個專有名詞、一句帶否定的話;若有兩位說話者,再標清各自發言。接著預先寫下兩套規格:逐字版保留口頭語,閱讀版移除指定贅詞但保留意思。這是建議的測試設計,不是本文已完成的實測。

實際評估時,讓同一段音訊分別套用兩套規格,保存原音、提示、輸出與配置。先核對必要事實,再看格式是否合規,最後計算交付與修稿時間。如果閱讀版更漂亮卻改變否定或數字,那就沒有達到這份工作的要求;若逐字版內容沒錯卻不符合字幕規格,也要如實記錄。

接下來追這次發布,最有資訊的證據會是不同語言、收音條件與任務規格下的可重做比較。可先用AI Evals 的驗收觀念建立自己的答案表。Nemotron 3.5 Transcribe 讓「怎麼抄」成為可選項;值得保留在自己手上的,是哪些字、哪些語氣與誰說的話,絕對不能在交稿時被改掉。

接著閱讀

左右滑動查看更多推薦

ALPHALAB 社群

有問題?來 Telegram 聊

和 Terry、編輯、其他網友一起討論這篇文章。提問、分享觀點,回覆更即時。

加入 Telegram 討論

📩 訂閱 AlphaLab 電子報

週日 Weekly 週報+週二、週四 Alpha Signal,每週最多三封。

我們不會 spam,隨時可退訂。已訂閱?管理訂閱偏好(會寄登入連結到你的信箱)

主題篩選與退訂說明

寄送日期以台灣時間為準。主題偏好會篩選每期精選,並非每篇新文章的即時通知;當期符合主題的文章不足時會略過寄送。

未勾選任何主題會收到所有主題的精選,並不會停止寄信。

取消勾選 Alpha Signal 可停止週二、週四短報,仍保留週日週報。若要停止所有電子報,請使用信件底部的「取消訂閱」。