【2026 最新】ClusterChat 教學：兩台電腦怎麼合用 GPU？私人群組、容量與離線接續六步指南

你和朋友各有一台遊戲電腦，單台都放不下想跑的模型。這篇 ClusterChat 教學，帶你看懂如何讓兩台電腦在瀏覽器裡分工：一台算前段、另一台接後段，再把回答傳回來。但顯存湊夠、回覆夠快，以及有人關機後能接續，是三件要分開驗收的事。

本文寫給第一次接觸分散推論的讀者，不必先會寫程式。你會學到如何建立私人群組、設定借出顯存與對話長度，用不含個資的假問題檢查運作，再留下延遲與離線演練紀錄。實作需要兩台由你與可信任夥伴控制的電腦，以及能提供 WebGPU 的瀏覽器。

以下依 2026 年 11 月 1 日查閱的官方文件、固定版本程式與建立頁面整理。AlphaLab 擷取了設定介面，本次未執行雙機模型推論；下面的速度欄位與故障情境，是讓你自行驗收的方法。

先說結論：共享模型＝分段運算＋網路交接＋可信任節點

把 ClusterChat 想成接力廚房：每台電腦負責幾道工序，網路負責傳遞半成品。這是理解原理的口訣。多一個廚房能擺下更多器具，卻也多一次交接；要讓某人離開後仍能出餐，留下的人還得會做所有缺掉的工序。

最適合的起點，是和熟人共用現有硬體、研究瀏覽器推論的工作方式。若你的首要需求是處理公司機密，先問清楚每個節點由誰控制；私人邀請限制的是誰能加入，並沒有把內容藏起來、不讓運算者接觸。

一、ClusterChat 教學：先認識五個零件

①「切開食譜」：模型分段

語言模型推論，是拿已有權重計算下一個 Token；Token 可理解成文字切成的小片段。ClusterChat 把模型的位置分給不同瀏覽器，各自下載要負責的權重。這裡教的是分工執行已有模型，並非讓兩張顯卡一起訓練新模型。想先補基礎，可讀 大語言模型如何運作。

②「真正開火」：WebGPU

WebGPU 是讓網頁使用 GPU 的標準介面。在這個專案裡，模型區塊由瀏覽器內的運算核心執行；它不只是把問題送給遠端推論 API 的聊天外殼。選擇只聊天的人則可以不借出 GPU。

③「傳半成品」：WebRTC

前一段算出的中間數值，透過 WebRTC 資料通道交給下一個節點。官方部署預設讓通道經過中繼，另有訊號伺服器協助找人與交換連線資訊。換句話說，推論在瀏覽器，連線仍有伺服器協助；WebRTC 的 TURN 說明可以幫你理解中繼在做什麼。

④「每張訂單的筆記」：對話快取

節點會保存各段運算需要的快取，包括注意力層的 KV cache，以及混合架構的狀態。它們是接續對話的工作筆記，也會占 GPU 記憶體。多個人同時聊天、拉長對話，與單純把模型權重放進去，有不同的容量需求。

⑤「有人可接班」：覆蓋與副本

能聊天的基本條件，是整個模型每個位置都有人準備好接手。某些位置多留一份副本，才有機會把中斷的工作送去另一台。依 官方架構文件，覆蓋指標 r 取所有位置副本數的最小值；它描述模型覆蓋，仍要配合節點之間實際可連通的情況判讀。

二、先過容量關：兩張 AMD 顯卡相加，夠嗎？

先別從顯卡品牌開始猜。你要記下每台電腦的 GPU、可用記憶體、作業系統、瀏覽器版本，以及準備借出的上限。桌面顯示、遊戲與其他程式也會占用資源；把標示容量全填給網頁，容易讓首次配置失敗。

目前官方建立頁提供 Qwen3.8-27B，並標示群組約需 27 GB；這是該部署的容量提示。建立頁程式會依權重描述與所選對話長度估算用量，且以二進位容量換算後標成 GB。因此，不能把這個整數當成所有設備配置的精確門檻。

2026 年 10 月 29 日的 AMD／雙 RX580 提問，作者回覆是 AMD 應可運作，但提問中的雙卡合計約 16 GB，放不下當時約 27 GB 的模型。這是作者的相容性判斷，並非完整驅動驗證名單。你仍要看自己的瀏覽器能否取得 GPU、通過核心檢查並持有模型區段。

容量口訣：先看可借出的總量，再看每台能否真的分到工作。總量不足就先停在規格盤點；接近門檻時，縮短 Chat length、關閉占資源的程式，再觀察配置。多開同一台的分頁，會競爭同一張 GPU，並不創造額外實體顯存。

如果 Chrome 顯示無法借出 GPU，先到 chrome://gpu 檢查狀態，再依 Chrome 官方排錯文件確認硬體加速、驅動與安全來源。看到 WebGPU 名稱，只能證明介面出現；完成載入與首輪回覆，才是這個模型能執行的證據。

三、ClusterChat 教學六步：從私人連結走到首輪回答

①「先固定考卷」：用完全虛構的問題

準備同一段提示詞：請用繁體中文寫三點，解釋為什麼澆花前要檢查土壤濕度。全程使用新聊天，記錄模型、兩台設備、借出上限、對話長度與生成設定。這樣換網路時，才知道差別來自哪裡。

②「先建小房間」：選容量與對話長度

在 A 電腦開啟 官方私人群組建立頁。先確認 Pick a model；在 How much will you lend? 拉動滑桿，選擇願意借出的量。頁面的預設為 None，不主動設定就不會借出。先選 Room capacity → 2 people、Chat length → 4K tokens，建立較小的驗收起點。

Room capacity 控制同時生成回答的人數；Chat length 控制對話上下文長度。前者像同時接幾張訂單，後者像每張訂單能附多少筆記，兩顆旋鈕別混在一起。Your name 可以留空；點 Create cluster 前，先閱讀服務條款，官方服務要求年滿 18 歲。

③「只邀請熟人」：把 B 加進同一群組

建立後，用 Invite 取得連結，私下傳給 B 電腦的操作者。B 開啟完整連結，選擇借出 GPU 並設定上限，再加入。私人代碼位於 /chat#mesh=… 的井字號後方；不要把它貼進公開截圖或測試紀錄。保留「A、B 是同一群組」的核對結果即可。

④「等人真的就位」：檢查 Contribute

兩邊打開 Contribute，確認各自持有的區段與載入狀態，再送出假問題。若 B 只顯示旁觀狀態，就先查借出選項、GPU 自我檢查與下載錯誤。連上網站與加入群組，只證明通訊入口通了；完成模型覆蓋之後，才能驗回覆。

⑤「一次只換網路」：分開量等待與輸出

先在同一網路做一輪，再把其中一台移到另一個網路，保持模型、硬體、借出上限與提示詞一致。每個條件至少重複三次，是本篇建議的起步樣本數；第一次下載與暖機另列，不混進暖機後成績。官方預設使用中繼，因此「兩台在同一 Wi-Fi」也不能直接解讀成兩台正在區網直連。

記下按送出到第一個 Token 的時間，稱為首字等待；再記第一個到最後一個 Token 的輸出速率，以及整題是否完成。首字等待包含排隊與處理提示詞的成本；輸出速率則描述開始回答之後的節奏。不要用中文字數冒充 Token 數。

要自動量測，可在已備妥 Node.js 與專案環境時閱讀 官方負載腳本；它分開記錄 ttftMs 與 tokPerS。新手先用畫面錄影、時間戳及回答下方統計也可以，重點是每次採用同一套算法。

⑥「再加一個人」：驗收多人同時聊天

單人測完，再由 A、B 各開自己的新聊天，使用相同考卷同時送出。分別記錄兩人的等待、速率與完成情況；任一方卡住都留在紀錄裡。全群組每秒總產出增加，仍可能伴隨每個人等待變長，所以不要只報最好的一張成績單。

四、離線演練：關掉 B，A 還剩下什麼？

先把「保存了聊天紀錄」與「還能繼續計算」分開。依 官方聊天儲存程式，對話存在目前瀏覽器的 IndexedDB；這是網站使用的本機資料庫。重新打開對話時，仍要有足夠節點把計算狀態建回來。可接續，不等於可斷網獨立運算。

• 第一輪：記錄原本覆蓋。兩台準備好後，保存區段持有情況與 r；只剩一份的位置，是故障時最值得觀察的地方。
• 第二輪：由 B 關閉借出分頁。在 A 的回答進行中操作，記錄中止、重播、重建或等待的畫面，再看剩餘節點是否仍覆蓋全模型。
• 第三輪：恢復 B。用同一私人連結重新加入，等待區段就緒後，嘗試接續原對話；把「重建成功」與「原回答無縫延續」分開寫。

官方 路由實作會在交接失敗時尋找其他持有者、重播已保存的工作，必要時由提問端重建對話。如果剩下的節點缺少模型位置，就要先恢復覆蓋。兩台合起來才勉強容納模型時，別把「關掉其中一台仍能跑」當成必然結果。

要比較有副本的情況，先確認設備還有足夠餘量、各位置已有額外持有者；若做不到，就把該項標記為未測。這比多開幾個分頁，卻沒有確認副本是否真的載入，更有判斷價值。

五、留下自己的驗收紀錄，別把作者速度當門檻

用一張筆記逐輪填寫：日期／版本／A、B GPU／瀏覽器／借出上限／Chat length／網路與中繼／首字等待／Token 數與輸出速率／是否完成／離線後畫面。沒量到的欄位就留空，故障也算一次結果。這套紀錄方法可銜接 AI 評估的基本觀念。

官方 README 的效能資料來自作者自己的兩張 RTX 3090，涵蓋同機與法國、西班牙兩機的設定，並說明輸出上限與多人負載。它能告訴你哪些條件值得測，不能替不同 AMD 顯卡、驅動或網路填答案。尤其該版本的跨機量測提交記錄提到直連；別把那組數字套成預設中繼路徑的保證。

截至本次查閱日，官方 README 仍將偶發回答停住列為原因尚未完全修復的已知問題。因此記錄時要保留卡住與失敗的回合；等待太久時先保存畫面與設定，再停止這輪，別用連續重送把故障紀錄洗掉。

至於隱私，依 官方隱私說明，運算節點可能接觸文字或可推回文字的中間數值。傳輸加密保護途中資料，收件端為了運算仍會接觸資料。因此這輪只用假問題；群組每多邀一位成員，就多一位需要信任的運算者。

常見問題：八個先講答案的判讀

1. 瀏覽器真的在算，還是只連後端？

借出 GPU 的瀏覽器會算。模型分段由 WebGPU 執行，訊號與中繼服務協助連線；不借出的人則使用群組提供的算力。

2. AMD 一定能加入運算嗎？

不一定。作者認為應可使用，但你這台設備仍要通過瀏覽器 GPU、核心檢查、容量與載入驗收；顯卡名稱本身不是通過證據。

3. 兩張 8 GB 就夠嗎？

對目前建立頁約 27 GB 的需求，總量已不足。還要計入執行與快取空間，先完成容量盤點，再決定增加哪些可信任設備。

4. 多開分頁能把顯存變大嗎？

不能增加實體容量。同 GPU 的分頁共享既有資源；兩台獨立設備才有額外硬體可投入。

5. 有私人邀請，就可以傳公司文件嗎？

先確認節點的控制者與資料權限。私人邀請讓你選成員，成員的電腦仍會處理資料；先用不含機密的素材驗路徑。

6. 建立群組的人離開，一定整組關閉嗎？

看剩下的模型覆蓋。建立者並非必須永遠在線的運算主機；但若它持有唯一的一段，其他節點仍需要補齊。

7. 存在瀏覽器，就代表斷網能繼續嗎？

不代表。文字紀錄能保存，推論還要有可用模型與通訊路徑；重新載入對話可能需要重建快取。

8. 今天沒有兩台 GPU，能先做什麼？

先盤點設備、確認設定入口、準備假問題與空白紀錄。本篇沒有提供 AlphaLab 雙機速度成績，等設備齊備再填入自己的觀察。

給新手的三個重點

• 容量看實際持有：總顯存是起點，模型覆蓋與載入成功才是能跑的證據。
• 速度分兩段：先量第一個 Token 等多久，再量後續寫多快；多人與故障另列。
• 信任看運算者：邀請碼與加密通道，各有保護範圍，節點仍會處理內容。