【2026 最新】ds4 本機模型值得跑嗎？64／128GB Mac 記憶體、SSD 串流與 Agent 驗收教學

你有一台 64 GB 或 128 GB Mac，看到別人用 ds4 把大模型搬進筆電，第一個問題可能是：「我的機器也能拿它當 Coding Agent 的日常後端嗎？」ds4 本機模型的答案，不能只看模型能否啟動；開工後的等待、工具呼叫與任務是否完成，才是關鍵。

這篇寫給第一次評估本機推論、但願意複製幾行指令的讀者。我們先算記憶體與 SSD，接著啟動一個固定 checkpoint、接入單一測試用 Agent，最後用一張驗收表決定繼續用本機、改用較小模型，或回到你現有的推論器／雲端服務。本文不預設你已懂「量化」或「KV cache」。

先說結論：ds4 本機模型值不值得跑？

• 64 GB Mac：官方 Metal 指南把 DeepSeek V4 Flash Q2 配 SSD 串流列為起點。這是容量方案，不是速度承諾；先用短任務驗收。
• 128 GB Mac：可先試約 81 GiB 的 Flash Q2 常駐配置，仍要為上下文、作業系統與其他程式留空間。
• Agent 的成功標準：同一題至少記錄首次回應時間、輸出速度、工具呼叫、測試結果、重試次數和總完成時間。跑得動 ≠ 做得完。

一句話記住：本機 Agent 可用性＝裝得下 × 等得起 × 工具叫得對 × 任務做得完。任一項失敗，單看每秒 token 再漂亮也沒有用。ds4（DwarfStar）是針對特定模型與硬體設計的本機推論程式；它的伺服器讓外部 Agent 透過相容 API 呼叫模型。想先補「推論器」這個概念，可讀 本機 LLM 推論引擎入門。

第一關：64／128 GB Mac 的記憶體與 SSD 怎麼算？

把模型想成一套工具箱：GGUF 檔案是整箱工具；RAM 是工作桌；SSD 串流是把暫時用不到的工具放在旁邊倉庫，需要時再拿。倉庫可以降低桌面佔用，卻會增加來回取用的時間，也不會代替工作桌上仍需保留的共用權重、運算緩衝與對話狀態。

截至 2026 年 10 月 5 日，官方模型表把 ds4f-q2 列為 DeepSeek V4 Flash 0731 的約 81 GiB 下載目標。官方 Metal 指南給 64 GB Mac 的起點是 Flash Q2 加 --ssd-streaming；96／128 GB 則可先試 Flash Q2，但要留出上下文與執行空間。GiB 與商店標示的 GB 單位不同，別把 81 GiB 誤當成 81 GB 的可用 RAM。

下載前先看 df -h . 的可用磁碟、活動監視器的記憶體壓力，以及你願意留給模型檔、KV 磁碟快取和專案檔的空間。81 GiB 只是模型檔級別的估算，不能直接當作全流程磁碟需求。官方說下載放在 gguf/，中斷後可重跑下載指令續傳；SSD 串流則建議本機快速 SSD，並從自動專家快取預算開始。先讀 官方 SSD 串流說明，尤其是「成功啟動仍可能慢到不適合互動」這一段。

放棄條件：若磁碟不夠放所選 GGUF 加預留快取與專案，或試跑時記憶體壓力持續升高、系統明顯交換到磁碟，就先換較小 checkpoint 或其他後端。容量仍不清楚時，先看 本機模型記憶體指南；若你的目標是 64 GB 內的另一個模型，也可參考 Qwen3.8 Flash Next 本機評估，不要把不同 checkpoint 的速度混在一起比較。

第二關：啟動 ds4-server，先做一個可回退的測試

以下固定使用官方 ds4f-q2，避免今天下載 A、明天卻量到 B。依照 官方入門步驟，在 Apple Silicon Mac 的終端機執行：

git clone https://github.com/antirez/ds4.git
cd ds4
make
./download_model.sh ds4f-q2

如果缺少 Apple 命令列開發工具，依 Metal 安裝頁先執行 xcode-select --install。下載前記下 git rev-parse HEAD，日後比較才能知道測的是哪一版程式。量化後綴 Q2 指權重壓縮方案；它降低容量，但不能單靠檔名推斷 Agent 品質。

64 GB 起跑：從 SSD 串流和 32K 上下文試起；128 GB 起跑：先試常駐的相同模型與相同上下文。兩台機器分別用以下其中一行，別同時啟動兩個伺服器：

# 64 GB：Flash Q2 加 SSD 串流
./ds4-server --ssd-streaming --ctx 32768 --kv-disk-dir /tmp/ds4-kv --kv-disk-space-mb 8192

# 128 GB：同一 checkpoint，先試常駐
./ds4-server --ctx 32768 --kv-disk-dir /tmp/ds4-kv --kv-disk-space-mb 8192

這裡的 32K 是試跑設定，不是所有機器保證能用的上限。--kv-disk-dir 是可重用的對話前綴快取，不是模型權重；8,192 MB 是快取空間上限。官方 伺服器文件也提醒：快取檔可含提示詞與模型狀態，應放在你信任的本機目錄。127.0.0.1:8000 是預設本機位址；這個試跑維持預設監聽即可。

另開終端機輸入 curl http://127.0.0.1:8000/v1/models，先確認伺服器回傳已載入模型，再用官方文件的 /v1/chat/completions 範例送一個短問題。若啟動列出的有效快取、RAM 需求與預期不同，記下畫面再調整，不要只憑「沒有報錯」就開始長任務。

第三關：接一個 Coding Agent，驗收工具呼叫

模型像會答題的腦；Agent 像拿著檔案與工具的工作員。你要測的是完整回路：讀檔 → 提議修改 → 呼叫工具 → 看工具結果 → 修改或結束。可以先閱讀 Agent Harness 白話解釋，再用 Agent 執行層實作理解為什麼工具回傳不能跳過。

官方 Coding Agent client 指南提供 Pi、OpenCode 等配置。第一次驗收選一個既有 client，將 provider 的 base URL 指向 http://127.0.0.1:8000/v1、模型 ID 設為 deepseek-v4-flash，client 的 context 上限設成不高於伺服器的 32768。文件中的 dsv4-local 是本機範例佔位字串，不是伺服器驗證機制。不要把這個本機測試埠直接暴露到公開網路。

請在一個可丟棄的小型 Git 測試庫放三個檔案：有一處明確錯誤的函式、一個會失敗的測試、簡短 README。給 Agent 的任務固定成：「找出失敗原因，修改最少檔案，執行測試，回報測試輸出。」先記錄原始測試失敗，再給它一次完整嘗試。驗收時要看工具是否真的開了檔、是否把測試輸出交回模型、最後測試是否通過，而不是只看它說「已修好」。若想看 Agent 的每一步如何串起來，可回看 Hermes Agent 的工作迴路。

第四關：用同一份任務算完成成本

固定 checkpoint、量化、程式 commit、上下文、思考／取樣設定和測試庫。每種後端都跑同一批簡單修 bug 與讀文件任務，輪流測試，避免某一方總拿到熱快取。官方效能文件也要求記錄常駐或串流、上下文與採樣設定，並重複交替測量。

1. 首次回應：按送出到第一個可見 token 的秒數；長初始 prompt 的 prefill 常是這段等待。
2. 生成速度：記錄輸出 token 與時間，但單位速度只作診斷。
3. 工具可靠性：應呼叫幾次、實際成功幾次；把格式錯誤、空參數與重試分開記。
4. 真正結果：測試是否通過、修改是否符合要求、人工收尾花多久。
5. 完整成本：從送出到可驗收成果的總分鐘數，加上 API 費用或本機資源佔用。不要把只算模型生成時間的結果拿來比 Agent。

可以用同一張表填「任務 ID／後端／commit／模型與量化／常駐或串流／上下文／冷熱快取／首次回應秒數／生成 token 每秒／工具成功次數／重試／測試通過／總分鐘」。ds4-server --trace /tmp/ds4-trace.txt 可記錄工具解析與快取事件，但 trace 可能含專案與提示詞內容，測完先妥善保管。ds4-eval 的內建測例是整合回歸檢查，官方明確說不是公開模型排行榜；它可以幫你排查，不能代替自己的任務集。

官方有一份 M5 Max、128 GB、Flash Q2 的記錄基線：在 2,048-token 上下文點，prefill 約 790 t/s、生成約 39 t/s；到 65,536-token 點，分別約 399 與 28 t/s。這是作者在指定 2,048-token 增量、128-token 貪婪生成條件下的舊記錄，不是你這台 Mac、64 GB 串流或 Agent 完成任務的預測。

怎麼決定留下 ds4，還是換一條路？

• 留下：你的固定任務大多能完成，工具呼叫可追溯，總等待在你能接受的範圍；再逐步拉長上下文。
• 先換較小配置：64 GB 串流時，冷啟動或 decode 等待影響工作節奏；先縮上下文、試官方支援的其他 checkpoint，並保留同一題集。
• 改用現有推論器或雲端 API：同一題集的完成率、重試或人工收尾明顯較好。把隱私需求與網路可用性也寫進決策欄，別只比較 token 單價。

這個選擇是工作流決策，不是模型輸贏榜。若你還在比較不同 Coding Agent 的操作方式，可看 Claude Code 與 Codex 比較；那篇談的是 Agent 用法，本文談的是本機推論後端能否撐起任務。

常見問題

64 GB Mac 跑 ds4 本機模型一定流暢嗎？

不一定。官方給的起點是 Flash Q2 加 SSD 串流；實際等待取決於 SSD、有效專家快取、上下文和任務模式。先跑短生成，再做完整 Agent 任務。

128 GB Mac 載入 Q2 就能開很長上下文嗎？

不一定。81 GiB 是模型級別的量，對話 KV、運算與其他程式仍占記憶體。本文先用 32K 當試跑起點，再依啟動資訊調整。

SSD 串流等於免費增加 RAM 嗎？

不是。它把部分路由專家留在檔案，按需讀取；其他必要權重與工作資料仍在記憶體，快取失誤還會拖慢生成。

模型回答正確，為何 Agent 還會失敗？

因為任務還包含工具流程。模型可能選錯工具、參數或沒讀回結果；用測試輸出和工具紀錄驗收。

只看每秒 token，能挑出最好的後端嗎？

不能。prefill、重試、工具失敗與人工收尾都會改變總完成時間；比較同一批任務的成果。

要一開始就把上下文開到最大嗎？

先不要。上下文也消耗記憶體；從能穩定完成小任務的設定開始，逐步增加並觀察壓力。

ds4-eval 的通過率就是我工作的成功率嗎？

不是。它檢查引擎與模型的整合行為；你的專案、工具與驗收標準要另外測。

第一次試跑應先做哪件事？

先確認容量。選定一個 checkpoint，記下可用磁碟、記憶體壓力與 commit；再用一個可丟棄的小任務跑完整回路。