Mistral Agentic Search 深度解讀：RAG 變成會翻文件的 Agent，86% 值得信嗎？（2026）

2026 年 8 月 20 日，Mistral 發布了 Agentic Search 官方文章。Mistral Agentic Search 想解決的不是「找不到相關文件」，而是傳統 RAG 撈到第一批片段後就急著作答：模型現在可以搜尋、開啟文件、前後翻頁、讀取指定範圍，再回頭修正查詢。這像是把搜尋框交給一位會自行查帳的研究員，但 Mistral 公布的 86% 分數，離「企業搜尋已被解決」仍有一段很重要的距離。

下面先還原 Mistral 實際交付的機制，再逐一核對 FinanceBench、OfficeQA、token 與延遲數字，最後給出導入前能直接執行的測試方法。

1. 先看 Agent 如何在文件裡移動，而不只拿一次 top-k。
2. 再拆解 86% 的比較基準、評分方式與未公開部分。
3. 最後判斷哪些工作值得交給它，哪些仍該留在一般 RAG。

Mistral Agentic Search 到底改了什麼？

如果你還不熟悉基本機制，可以先把 RAG 想成「先找資料，再把資料交給模型回答」。典型流程只檢索一次：索引回傳幾個高分片段，模型就在這個有限證據箱裡作答。Mistral 對這個弱點的描述很準確：

Traditional, one-shot RAG retrieves a fixed set of text chunks and asks a model to answer in a single pass.

中文：傳統的一次性 RAG 先取回固定的一組文字片段，接著要求模型在單次流程中完成回答。

Mistral

Mistral 把索引上方加了一層由模型控制的閱讀迴圈。核心不是無限制地把更多內容塞進 context，而是讓模型在需要時呼叫五種操作：

工具	模型實際在做什麼
search	在整個索引找可能相關的片段，也能排除已看過的結果
open	從命中的片段進入原始文件與所在位置
navigate	沿文件順序往前或往後移動
read	讀取指定文件範圍，補齊上下文
grep	在文件內按文字或模式定位內容

這五個名稱指的是核心檢索與導航介面，不是整套 Search Toolkit 只有五個操作。完整工具組還包含攝取與刪除等管理能力；正式環境應把寫入權限與唯讀搜尋分開。依 官方文件，這層可以接到 Search Toolkit 或 Libraries，透過 Studio、Vibe 與 MCP 使用，也能部署在雲端或自有環境。

新的是可部署的文件導航層，不是反覆搜尋這個概念

讓模型邊推理、邊呼叫搜尋工具並不新。WebGPT 在 2021 年已讓模型搜尋、開頁與找文字；ReAct 把推理與外部行動交錯；IRCoT 更直接示範「檢索、推理、再用新線索檢索」的循環。

Mistral 真正值得注意的貢獻，是把這個研究脈絡變成一個乾淨的文件閱讀介面：每個片段保留來源與順序，Agent 可以從搜尋結果進入文件、沿相鄰區段移動，並把同一套操作接到現有工作流。對正在設計 AI Agent Harness 的團隊來說，這是工程產品化，而不是全新的檢索理論。

86% 看起來驚人，但先看三個比較基準

Mistral Agentic Search 最吸睛的結果來自 150 題 FinanceBench 公開樣本。Mistral 表示，它把相關 PDF 語料建成索引，並用經人工標籤校準的 LLM judge 評分。GLM-5.2 從一次性 RAG 的 26.7%，升到可反覆搜尋的 79.3%，再加上完整文件導航後到 86.0%。

FinanceBench 設定	Mistral Medium 3.5	GLM-5.2	這一步增加
一次性 RAG	22.7%	26.7%	基準
可反覆搜尋	70.0%	79.3%	+47.3／+52.6 個百分點
再加完整導航	78.7%	86.0%	+8.7／+6.7 個百分點

第一個基準：最大增益來自「再搜一次」

這張表最重要的訊息不是 86，而是中間那一欄。對兩個模型而言，search loop 先帶來 47.3 與 52.6 個百分點；open、navigate、read、grep 組成的完整導航，最後再加 8.7 與 6.7 個百分點。換句話說，主要突破是模型能發現證據不足後重新查詢；文件導航則負責把後段閱讀做得更精準。

第二個基準：更省 token，不等於比一次性 RAG 更快

Mistral 報告完整導航相較 search-only loop，兩個模型分別少用 23.9% 與 33.7% token；平均延遲由 108 秒降到 71 秒，p90 由 255 秒降到 154 秒。這些比較的對手是會反覆搜尋、但不會精準導航的 Agent，不是一次性 RAG。154 秒的 p90 代表它仍比較像深度查核工作，而不是即時客服的預設路徑。

第三個基準：圖表成立，重現材料仍不完整

FinanceBench 原始論文建立了 10,231 題，公開樣本則是 150 題；Mistral 的 26.7%、79.3% 與 86.0% 都對應這個公開樣本。截至 2026 年 8 月 22 日，本次檢索尚未找到相同設定的獨立重現；Mistral 的公開 starter app提供可運行模板，但沒有逐題回答、judge 校準統計、資料 commit 或 benchmark harness。這使結果很有研究價值，卻還不能直接外推成生產環境的準確率。

另一個長文件基準 OfficeQA Pro 有 133 題、約 8.9 萬頁。Mistral 報告 GLM-5.2 從 6.3% 升至 51.9%，方向同樣亮眼；但官方沒有交代重複次數、精確資料版本與 scorer 設定，而且 51.9% 也意味著接近一半的困難題仍未答對。

Mistral 自己也沒有說一次性 RAG 該消失

發布文沒有把所有查詢都包裝成 Agent 任務。它明確保留了一個重要邊界：

One-shot RAG is often sufficient.

中文：一次性 RAG 往往已經足夠。

Mistral

官方列出的適用情境包括直接查值、高流量搜尋，以及簡單、可預測的問題。只有當答案分散在長文件多處、需要追蹤上下文或核對多個來源時，Agent 迴圈的額外延遲與成本才更容易換回價值。

另一個容易被忽略的限制藏在索引層。Agentic Search 是編排層，不是新的 retrieval primitive；官方要求可導航索引保留文件順序，並採用 DOCUMENT_PER_CHUNK 的資料模型。既有索引若缺少來源、位置與順序欄位，仍可能需要重建或重新攝取。OCR 若漏掉表格欄位、chunking 若破壞閱讀順序，Agent 也無法靠多走幾步找回從未進入索引的資訊。

AlphaLab 的判讀：工程價值很大，通用勝利還太早

1. 新的是文件導航層，不是 Agentic RAG

Mistral 最有價值的地方，是把既有的反覆檢索思路整理成可部署、可觀察、可接既有索引的產品介面。這種整合往往比再發明一個論文名詞更實用，也讓團隊能在同一個 harness 裡替換模型、索引與停止規則。

2. 可追溯，不等於已驗證

工具回傳來源與位置，能回答「模型看過哪裡」，卻不自動證明引文真的支持答案、所有反證都被看過，或數字計算正確。正式評估應把答案正確性、引用是否蘊含主張、引用是否完整分開計分，而不是只看最後一句像不像標準答案。

3. 更聰明的閱讀，也需要更嚴格的停止規則

模型自行決定何時「證據夠了」，本質上仍是判斷題。搜尋早期若走錯方向，後續導航可能更有效率地深入錯誤文件。可靠的系統需要最大 hop、token 與時間預算，還要能在證據衝突或不足時選擇不回答。

4. 真正的企業門檻在治理層

雲端或 on-prem 只處理部署位置，沒有自動解決文件權限、版本漂移、惡意提示、刪除權限與稽核。生產系統至少要讓搜尋沿用原始 ACL、把讀取工具與寫入工具拆開、保存證據版本，並記錄每次查詢與工具軌跡。

我同意什麼：Mistral 找到了 one-shot RAG 很真實的失敗模式，也用清楚的消融證明「讓模型再找一次」值得測試。我存疑什麼：目前兩組金融長文件 benchmark、廠商自己的 judge 與未公開重現材料，還不足以支持「換上更強模型就會普遍變好」的廣泛承諾。

如果要導入，先跑一個三層 A/B 測試

不要先把全部知識庫改成 Agentic Search。從 30～50 題真實問題建立 gold set，並保留能人工核對的原始證據，然後在相同模型與索引上比較三層：

1. 一次性 RAG：固定 top-k，建立速度、成本與正確率基線。
2. Search loop：允許模型修正查詢，觀察最大增益是否已在這一步出現。
3. 完整 navigation：加入 open、navigate、read、grep，確認最後的增益是否值得額外複雜度。

每層同時記錄答案正確率、引用支持度與完整度、平均／p90 延遲、token、tool calls、放棄回答率，以及 ACL 是否正確生效。可以用 最小 Agent Harness 固定工具與預算，再依 AI Evals 教學把回歸題、失敗分類與人工抽查納入部署門檻。

最合理的路由通常是雙軌：簡單查值仍走一次性 RAG；多文件核對、長篇財報或需要追蹤表格上下文的問題，才升級到 Agent 迴圈。這樣既保留 Agentic Search 的查證能力，也不讓每個「營收是多少」都變成兩分半鐘的研究任務。