AI 推理成本暴跌：AI 公司估值真的要重算嗎？（2026）

AI 推理成本不是一條單一曲線：每 token API 標價，以及達到固定 benchmark 門檻的最低標價，正在快速下降；供應商執行成本與企業帳單則要分開看。2026 年 8 月 7 日，N47 General Partner Matthew Cowan 在 X 發布長文〈The AI price collapse has only just begun〉，主張 token 商品化、開放權重模型與新一代晶片會迫使整條 AI 價值鏈重估。

這篇文章先忠實還原 Cowan 的論點，再拆開三個常被混用的數字——API 標價、供應商成本與企業帳單——最後用需求量、轉換成本與應用價值檢查「成本降、營收就見頂」是否真的成立。

Cowan 看見的，不只是降價，而是價值搬家

Cowan 的論證可以濃縮成四步。第一，達到相近能力門檻的模型價格正在急降。第二，開放權重模型讓企業有更多自架與多模型路由選項。第三，Cerebras、SambaNova、Groq 等專用推論架構，可能再壓低服務模型的成本。第四，只把上游 token 加價轉售給客戶、卻沒有資料、工作流或客戶關係的 AI 產品，價差與估值都會承壓。

他並非預測 OpenAI 或 Anthropic 整家公司必然衰退。相反地，他認為模型商會往 coding agent、企業搜尋與垂直應用移動，讓純 token 收入占比下降、總營收仍可能成長。這個「價值往上層搬」的版本，比「AI 泡沫要破了」精確得多。

“The price collapse is not coming. It is already here.”

中文：價格崩跌不是還沒到，而是已經在這裡。

Matthew Cowan，〈The AI price collapse has only just begun〉

問題在於，原文把幾種不同指標串成同一條因果鏈。方向可能對，等號卻不一定成立。

第一個校正：價格、成本與帳單不是同一件事

要判讀 AI 推理成本，至少要先分清楚三條曲線：

1. 固定能力門檻的最低 API 標價：市場上哪個模型能用最低價格通過某項 benchmark。
2. 模型供應商的執行成本：晶片、記憶體、網路、電力、利用率與推論最佳化共同決定的內部成本。
3. 企業的實際混合帳單：模型組合、輸入／輸出比例、快取命中、批次、折扣、路由與每項任務 token 數的結果。

Epoch AI 的研究量的是第一種。它以六種 benchmark 的固定分數門檻，追蹤達標模型中最低的每 token API 標價；不同 benchmark 與能力門檻的迴歸年化降幅約為 9 倍到 900 倍，中位數是 50 倍。只保留 2024 年 1 月後的短期資料，中位迴歸速度會變成 200 倍，但研究排除了 reasoning models，也明列 benchmark 污染、樣本有限、近期速度未必延續等限制。

這也解釋了原文最吸睛數字的問題。2023 年 GPT-4 官方標價是輸入每百萬 token 30 美元、輸出 60 美元；若依 Epoch 的 3:1 輸入／輸出加權，會是 37.5 美元。截至 2025 年初，部分固定測驗門檻的最低標價確實已降到每百萬 token 約 0.12 至 0.18 美元，但這不等於「完整 GPT-4 能力」全面來到同一價位。原文接著說今日相等能力只要幾分之一美分，卻沒有說清楚是每次短請求，還是每百萬 token；兩者不能放在同一條時間序列。

OpenAI 的確仍在降價。官方在 2026 年 7 月 30 日宣布 GPT-5.6 Luna 輸入／輸出價各降 80%，Terra 各降 20%；這也是我們在GPT-5.6 API 降價分析裡拆解的最新一輪變動。原文寫成「8 月由 Sam Altman 宣布」，日期與歸因都不準確，但降價幅度本身可以核實。

至於 Gartner 的 90% 預測，範圍更窄：2030 年，供應商執行一個 1 兆參數模型的推論成本，將比 2025 年低逾 90%。它不是 API 售價預測，也不是企業帳單預測。Gartner 同一份說明還指出，成本節省不會全數轉嫁給客戶，agent 任務可能使用一般 chatbot 的 5 至 30 倍 token，而且用量成長可能快過單位成本下降，因此整體推論成本仍預期上升。

第二個校正：單價下降，不等於 token 營收見頂

Cowan 最需要補上的，是需求量。模型商的 token 營收不是只由掛牌價格決定：

這裡其實有兩個不同檢驗。要證明模型商 token 營收見頂，不能只看一輪降價，而要證明「平均實收單價 × 計費 token 量」的乘積已停止成長；在兩期比較中，這等於「新計費 token 量 ÷ 舊量」不大於「舊平均實收單價 ÷ 新價」，若前者嚴格小於後者，token 營收才會下降。計費 token 總量又約等於任務數乘以每項任務的平均計費 token 數。要證明應用商單位價差正在關閉，若 P 代表客戶每單位實付價、C 代表上游每單位實付成本，應直接檢驗 P₁−C₁ 是否小於 P₀−C₀，不能只比較兩者的百分比降幅。即使單位價差確實收窄，要再推到總毛利與估值，仍要看用量與非 token 收入，以及應用公司能否改按成果或工作流定價。原文沒有建立這些條件。若更便宜的推論讓每個客服案例跑更多驗證、每個 coding agent 執行更多步驟，單價下降甚至可能伴隨整體推論成本上升。

同樣地，截至 2026 年 8 月，OpenAI 與 Anthropic 的公開資料未提供可單獨核對 API 業務毛利、token 營收與完整成本拆分的數據；「高毛利」與「接近 peak token revenue」都應視為 Cowan 的投資假說，而非已發生事實。就算純 token 占營收比重下降，模型商仍能把能力包進 agent、企業產品與垂直工作流。這也是為什麼估值分析不能只拿每 token 價格乘上舊用量。

開放權重確實改變議價，但沒有把摩擦歸零

Cowan 對開放權重的方向判讀很重要：當足夠好的模型可以自架、在區域內部署或由多家供應商託管，企業就多了一個談價與避險選項。這是開放與封閉模型市場之爭真正改變採購結構的地方。

但原文引用的「企業 open-weight token 占比從 11% 升到 38%」與「2026 年中已占約一半 production tokens」，可追溯來源主要是 API 聚合平台的自報混合流量與新聞稿，而非覆蓋整體市場、方法可重現的審計。它適合當成需求訊號，不足以證明全體企業已跨過同一門檻。

另一組平台資料剛好顯示分母有多重要：Vercel AI Gateway 的 2026 年 6 月 production 流量中，開放權重模型約占 29% token，按公開牌價正規化估算的支出卻不到 4%，Vercel Gateway 的企業客戶採用率約八分之一；高風險 coding 與 back-office 工作的估算支出仍高度集中於封閉模型。這也不是全球市場；兩個平台得出不同占比，只能說明結果高度依賴樣本與分類法，既不足以確認全市場已接近一半，也不能把單一平台直接外推為全市場。

真實採用通常也發生在工作負載，而不是整家公司一鍵搬家。例如 Shopify 把 fine-tuned Qwen3-32B 用在 Flow 工具 agent，在 300 題內部評測比較正確性與延遲；官方另稱相較它取代的 frontier model，新模型快 2.2 倍、成本低 68%，並承接該 agent 多數流量。這是很強的生產案例，卻不是「Shopify 全面遷移到 Qwen」。同樣地，NIST CAISI 包含兩項 held-out／未污染 benchmark 的獨立評測認為 DeepSeek V4 Pro 約在 GPT-5 水準、仍落後當期前沿模型，顯示「已跨過實用門檻」不等於「所有能力差距已關閉」。

資料治理也不能簡化成「每個企業 query 都可能餵回封閉模型」。OpenAI 的 Business、Enterprise 與 API 資料預設不用於訓練；Anthropic 的商業產品與 API 也預設不用於訓練，除非客戶明確選擇加入。自架權重仍可帶來更高控制力，但 patching、權限、模型供應鏈、監控與稽核責任也會轉到企業自己身上。

而且「API 介面可相容」不等於「生產系統零轉換成本」。Anthropic 自己的 OpenAI SDK 相容層文件就提醒，它主要適合測試比較，不適合多數長期 production 用例；工具呼叫、prompt caching、structured output 與 system message 行為都可能不同。無狀態文字請求的 plumbing 可以很薄，但已上線 agent 的 prompt、eval、安全、快取、SLA 與合規依賴並不薄。

專用晶片擴大降本選項，但不是所有工作負載都同一個贏家

Cerebras、SambaNova 與 Groq 的確證明，推論硬體不必只沿著傳統 GPU 路線前進。截至 2026 年 8 月 9 日，Artificial Analysis 對同一 gpt-oss-120B 模型的 provider 測試顯示，三者在 output speed 或 latency 上各有領先指標，但最低標價由其他供應商取得；我們在OpenAI 與 Cerebras 的推論速度分析中也談過這種速度競爭。

不過，tokens/s、每 token 售價、完整系統耗能與硬體總持有成本是四個不同座標。獨立的跨硬體研究顯示，最佳平台會隨 batch、sequence length、model size 與 scale-out 通訊而改變，可程式性與編譯時間也會影響實際部署選擇；最快的 endpoint 不必然最便宜。更重要的是，Gartner 的 90% 預測已經把專用推論晶片、更高晶片利用率與模型設計創新納入。若要主張這項預測「很可能保守」，還需證明 Gartner 低估了這些因素的量化效果，不能把同一因素再算一次。

我同意什麼，又對什麼保留

我同意 Cowan 的核心警告：若產品只是把同一個模型包上介面，再按 token 或席次加價，成本下降與多模型競爭會讓複製更容易。真正能留下的，通常是專有資料、深入工作流的整合、可量化成果、分發、信任與客戶切換痛點。

“What is the part of my product that isn’t a commodity?”

中文：我的產品裡，哪一部分不是商品？

Matthew Cowan，〈The AI price collapse has only just begun〉

我保留的是從成本到估值的跳躍：供應商成本下降不保證售價等幅下降，售價下降不保證用量不反彈，用量反彈也不代表所有公司都能捕捉價值。前沿推理、稀缺算力、可靠性與垂直成果仍可能維持溢價；若客戶實付價與其他履約成本沒有同比下降，上游成本降低可能擴大每項任務毛利額，但總毛利與毛利率仍取決於用量與收入組合。

用五個問題重算一間 AI 公司

1. 收入有多少來自 compute spread？ 若上游模型換一家，客戶為何還要留下？
2. 定價單位是 token、席次，還是成果？ 客戶買的是算力，還是更快結案、更高轉換率與更少人工？
3. 需求彈性有多大？ 客戶實付單價下降後，每項任務的 token 數與任務總量會增加多少？
4. 模型能否替換而不傷品質？ 是否已有可重跑的 eval、router、fallback 與資料邊界？
5. 非商品化資產正在累積嗎？ 看資料權利、工作流深度、分發、合規、品牌信任與續約，而不是只看 token 增長。

結論：估值要重算，但不能只改一個單價

Matthew Cowan 抓到了一個真實轉折：一般 token 的商品化壓力正在升高，薄封裝 AI 產品的議價能力會被檢驗。他也正確逼迫創業者回答「便宜模型普及後，產品還剩下什麼」。但三組證據必須分開讀：Gartner 提供未來 AI 推理成本的窄範圍預測，Epoch 記錄過去固定能力門檻的最低標價，OpenAI 則是特定產品的實際調價。它們共同支持下行壓力，卻不能合併成一條已實現的普遍成本曲線，更不能單獨證明 OpenAI、Anthropic 的 token 營收已接近峰值，或替所有 AI 公司直接下修估值。

更穩健的判斷是：一般 token 的商品化壓力、整體 AI 成本、前沿模型收入與下游應用價值，是四個不能互相推出的指標。真正該被重算的，不是「AI」這個總標籤，而是每家公司把便宜算力轉成用量、成果、留存與非商品化資產的能力。