【2026 最新】Llmspeed 教學：買 GPU 前先感受等待，五步分清量測、外推與長文估算

你看上一張顯卡，評測寫著每秒能產生很多 tokens，卻不知道實際聊天時，自己會等得不耐煩，還是根本讀不及。這篇 Llmspeed 教學，帶你在買硬體前先感受等待，再判斷螢幕上的速度究竟有多少證據。

本文專為完全沒有技術背景、正在考慮本機 LLM 的讀者寫。LLM 是大型語言模型；「本機」是由自己的設備執行推論。你只需要瀏覽器，就能完成操作、記錄與追查；已有模型環境的人，再接上最後的實機核對。

操作與原始碼查核截至 2026 年 10 月 18 日。本文保存的是網頁操作快照，畫面數字屬於 Llmspeed 的估算；我們沒有用畫面所選的顯卡執行模型效能測試。

先說結論：Llmspeed 教學先分清「演給你看」與「量給你看」

購機前的等待判斷＝先體感＋查來源＋同條件補測。把 Llmspeed 想成家具店裡的空間模型：它讓你看見擺法、比較感受，真正搬回家之前，還要核對尺寸和使用條件。

• 先用相同模型、量化與輸入長度，比較兩組候選硬體；一次只改一項。
• 同時讀生成速度、TTFT 與可信度標籤；把估算值與自己的測量分欄保存。
• 長文件預設也值得操作，但它呈現的是預設 token 深度的模擬，不是讀懂你的文件的成績。
• 用它刪掉不合用的候選，再去補來源、容量和真實任務證據。

Llmspeed 是什麼？先看懂等待的三個零件

Llmspeed 網站讓你挑硬體、模型與量化，再播放回答的出現過程。它的用途是把抽象數字變成可感受的等待：按下去後多久開始出字，開始後又以什麼節奏前進。

① Prefill「先讀題」：模型先處理輸入。② Decode「逐步作答」：接著生成輸出。③ TTFT「第一口飯端上桌」：從送出到第一個答案 token 出現的時間。餐廳端菜快，不代表備餐等待也短；兩種速度要分開看。

Token 是模型處理文字的小單位，可能是一個字、一段字或標點，不能固定換成「一個中文字」。這也是為什麼英文展示文字看起來流暢，仍要用你的繁中工作再驗一次。要補底層概念，可以先看 本機 LLM 跑分怎麼看。

量化則像把大型食譜換成較精簡的數字記錄方式。它會影響檔案大小與計算，選擇時要保留完整名稱，例如 Q4_K_M，不能把不同檔案都縮寫成「Q4」就視為同一套條件。容量的另一半，留給 本機 LLM 顯存規劃一起算。

Llmspeed 教學：五步完成第一份候選紀錄

①「先抄配方」：固定硬體、模型與量化

你想比較的是顯卡，還是模型？先打開網站，依序點選硬體、模型、量化選單。本次畫面的例子是 NVIDIA RTX 4090 24GB、Llama 3.1 8B、Q4_K_M；它們只是用來教介面的組合，不是購買推薦。

精確操作：第一輪保留 Short chat。把日期、三個選項及輸入預設抄到筆記，再看下方的 tok/s、TTFT 和標籤。看到的是一段範圍時，就保留整段，不自行挑最高值當成果。完成標準是：另一個人照著你的筆記，可以選到相同設定。

②「先感受停頓」：按 Run，把首字與後續分開

只看 tok/s，很容易漏掉開頭的空白。按 Run ▸，觀察先等待、再出字的過程。第一輪問自己：「開始之前能等嗎？」第二輪才問：「開始之後，閱讀節奏適合嗎？」需要停止時按 Stop。

這一步的成果是一句自己的需求，例如「短聊天希望很快開始；離線整理文件則能接受較長等待」。不要先抄別人的及格線。也不要拿展示回答的內容評判模型智力：查核版本的 播放程式會依預設挑選事先寫好的回答，再依計算結果控制出字。

③「換厚一點的題目」：Code file 與 20-page doc

想用它判斷長文，不能停在短聊天。點第一個輸入預設選單，改選 Code file 或 20-page doc，其他三項先不動，再觀察 TTFT 和速度範圍。這比把短題動畫直接當長文體驗，更接近你想問的問題。

這裡有個容易錯過的細節：本次操作時，頁尾仍寫短 Prompt／單裝置的說明，但介面已提供較長預設。預設資料程式把短聊天、郵件、程式檔與長文件對應到不同 token 深度；畫面的「20 頁」是預設情境名稱，不是上傳並完整讀取了一份真實合約。

完成標準：你的筆記多一欄輸入預設，並能解釋為什麼同一台機器換長輸入後，開頭等待也會變。若工作是繁中合約，下一步要準備自己的合法可用樣本，而不是把英文預設名稱當成驗收通過。

④「打開算式」：How we calculated this

你看到綠色 Measured，是否就能把整個畫面叫實測？先點 How we calculated this ▾。本次展開畫面列出權重、KV Cache、需要與可用記憶體、Decode 範圍，以及 Prefill 與 TTFT 的推算。KV Cache 可想成模型作答時留在桌上的前文便條；輸入加長，這一疊便條也要占空間。

關鍵在 這版計算程式：生成速度會使用配置資料或回退公式，並依 Context 深度調整；TTFT 則由輸入 token 數、Prefill 速度與額外開銷計算。配置帶有量測來源標籤，與你目前這一題的 TTFT 被直接量過，是兩件事。

因此筆記應寫「工具標籤：Measured；目前 TTFT：模擬估算」，不要寫「我的顯卡已測得」。這一個欄位分開，後面的比較就比較不容易走歪。

⑤「同題賽跑」：Race 只換一個變數

點 + Race a config，加入第二組。先固定模型、量化與輸入預設，只換硬體，再按 Race ▸。若你同時換了模型和量化，看到的差距就無法單獨歸因給硬體。

本次畫面把 RTX 4090 與 MacBook M4 Pro 放在兩條跑道，適合示範「同題比較」；它不包含整機售價、耗電、噪音或你的答案品質。先將較合適的一組留下，最後再接 本機主機、租機與 API 的總成本比較，才知道等待改善值多少錢。

Measured、Derived、Projected：標籤後面還要找什麼？

依 官方標籤定義，Measured 表示同硬體、模型與量化有 benchmark；Derived 是從相近測試推算；Projected 是依硬體規格等條件投射。它們說明估算的起點，不能取代原始測試條件。

追查時，從頁尾 GitHub 進入版本紀錄，再檢查 data/app-data.json 中的組合。本次固定版本的組合欄位能對到 tier、生成區間與各預設 Prefill 區間；但在我們檢查的這份組合結構中，沒有逐組附上原測試 URL、引擎版本或完整輸出。這是對這份檔案的觀察，不把它擴大成作者從未查證。

接著到作者所列的 LocalScore 或原始討論找相同設定。至少補齊：測量日期、完整模型檔、量化、執行引擎與版本、輸入／輸出長度、GPU 放置方式。只找到同型顯卡，模型或 offload 不同，就先記「部分相符」。

找不到那一組的原始紀錄，就留下「來源待補」。你仍可用動畫理解等待的差別，但購機證據要停在對應的強度。特別是 Projected，先問硬體是否已可取得、有無後續量測，再決定要投入多少預算。

已有機器，怎麼把估算接到自己的測量？

先保留一份候選卡：日期、硬體、完整模型檔與雜湊、量化、引擎版本、輸入 token 數、放置方式、工具估算、自己的結果、來源連結。估算與實測分兩欄，缺的就留白。請只使用你有權處理的測試文字。

若已安裝 llama.cpp 並已有 GGUF，可依 官方 llama-bench 文件，在模型路徑換成自己的檔案後執行 llama-bench -m /path/to/model.gguf -p 512 -n 128 -o json。這是固定長度的讀入／生成微型測試；先看 llama-bench --help 核對版本，並保留輸出所列的 backend、GPU layers 等設定。尚未備好環境，就先填候選卡。

這個指令的長度不是網站所有預設的複製品，也不直接交出使用者端 TTFT。若你已有 Ollama，可從 Generate 回傳欄位分開記 load_duration、prompt_eval_duration、eval_duration 與 token 數；使用者看到的 TTFT，另從送出請求到串流第一個有效答案片段計時。把載入、讀題、生成及傳輸拆開，才看得出差在什麼地方。

實際核對時，先固定一份短題，再換程式檔與長文，冷啟動和暖機分欄；同題多跑幾次並保留慢的那次與失敗。詳細流程交給 本機 LLM 跑分成績單，本篇的任務是把 Llmspeed 當成補測前的候選篩選器。

三個會讓購機判斷跑偏的坑

• 把記憶體判斷當所有執行路線的結論：網站的 fits／partial／won’t run 來自它的容量與 offload 模型。特殊 expert offload、不同 KV 格式等配置，應另外找對應紀錄；出現警示時，先縮小模型或補證據。
• 拿 Dense／MoE 名字預測寫程式品質：MoE 會選部分專家參與單步計算，與全體權重的容量是兩個問題。模擬器的速度模型幫你估等待；要比較 coding，仍需同題修改、測試與驗收。
• 把一次播放當 Agent 全程：Agent 還有工具執行、回傳、下一輪讀入與重試。先看 Agent Harness 的工作迴圈，把每輪累積的時間算回完整交付。

Llmspeed 教學 FAQ：八個新手問題

打開 Llmspeed 就是在測我的電腦嗎？

不是。這次查核版本以所選配置估算等待，再播放預寫回答；操作它不代表畫面上的模型已在你的電腦執行。

看到 Measured，就能直接相信 TTFT 嗎？

要拆開看。標籤定義指向配置 benchmark，這版 TTFT 仍由 Prefill 與開銷公式計算，應另留自己的串流計時。

它只能看短 Prompt 嗎？

目前介面有較長預設。本次已操作 20-page doc，選單也提供 Code file；它們以預設 token 深度模擬，不能據此判定真實文件回答正確。

可以比較兩張 GPU 合作的速度嗎？

這版官方 README 的限制是單裝置。Race 是兩條獨立配置的比較，不是把兩張卡串成一組。

Projected 就完全沒用嗎？

有用，適合建立候選與等待感受。先保留推算標籤，再補可取得硬體上的原始測試，別把它升格成採購承諾。

量化越小，就一定越快且夠準嗎？

不能由名稱保證。保留完整檔案、引擎與放置設定，再用相同題目檢查速度與答案。

20-page doc 跑得順，Agent 就會快嗎？

還不足以推出。Agent 的多輪輸入、工具等待與重試，要另外量完整任務時間及完成品質。

還沒有顯卡，今天能交出什麼？

一份兩組配置的候選卡。固定模型、量化與預設，記下速度、TTFT、標籤及來源缺口，選出下一個最值得補測的問題。

給新手的三個重點

• 先感受開始前與開始後的等待，再談是否符合工作。
• 配置標籤、計算明細與原始測試，要沿同一條證據鏈核對。
• 用模擬縮小候選，用真實任務決定是否購買。