你幾乎每天都在用 ChatGPT、Claude 或 Gemini——丟一句話進去，它就像真人一樣回你一大段、幫你寫文案、改程式、翻譯、出主意。但你有沒有想過：它到底是怎麼「知道」要回什麼的？它真的「聽懂」你了嗎？還是只是在某個巨大的資料庫裡「查答案」？這篇就用白話帶你徹底搞懂 LLM 運作原理。
這篇文章會用最白話的方式，帶你從零搞懂 LLM 運作原理（LLM＝Large Language Model，大型語言模型，就是 ChatGPT、Claude 這類工具背後的「大腦」）。專為完全沒有技術背景的讀者寫，不會出現任何一行你看不懂的程式碼，也不需要任何數學。讀完你會得到一個能帶著走的心智模型，下次跟人聊到 AI，你會是那個真正講得清楚的人。
我們會回答這幾個問題：LLM 收到你的話之後，腦袋裡到底發生了什麼？它為什麼有時候聰明到嚇人、有時候又連「strawberry 有幾個 r」都會數錯？它的知識是哪裡來的、又為什麼會「一本正經地胡說八道」？走，開始。
先說結論：LLM 運作原理，一句話就是「機率接龍」
如果這篇你只記得一句話，就記這句：
🎯 LLM ＝ 一台超強的「猜下一個字」接龍機器。它做的事情，從頭到尾就只有一件——根據你給的所有文字，不斷預測「下一個字最可能是什麼」，猜完一個、接上去、再猜下一個，一個字一個字把整段話「接龍」出來。
沒錯，就這麼簡單，也這麼違反直覺。那個能跟你談哲學、幫你寫程式、看起來像有靈魂的東西，本質上是在玩一個放大一億倍的「文字接龍」遊戲。它不是在「查資料」，也不是在「思考」我們以為的那種思考——它是在算機率。接下來整篇文章，就是把這句話拆開，讓你看懂這台接龍機器每一個零件是怎麼運作的。
LLM 是什麼？先把這三個字搞懂
在拆解 LLM 運作原理之前，先把 L-L-M 這三個字拆開看，你會發現它的名字其實已經把一切都講完了：
- L = Large（大）：大在兩個地方。一是「吃」的資料大——它讀過的文字量大到難以想像，幾乎是整個網際網路能找到的書、文章、對話。二是「腦容量」大——模型內部有數十億到上兆個叫做「參數（parameter）」的旋鈕，這些旋鈕的數值，就是它學到的所有東西。
- L = Language（語言）：它處理的對象是「語言」——文字。它的世界裡沒有真實的蘋果、沒有真實的天空，只有「文字之間的關係」。
- M = Model（模型）：「模型」聽起來很玄，其實就是一個超大的數學函數——你丟一串文字進去，它吐一個「下一個字的機率表」出來。如此而已。
所以「大型語言模型」翻成人話就是：一個讀過半個網路、靠數十億旋鈕來猜下一個字的超大數學函數。把這個定位記住，下面的五個步驟就會非常好懂。
LLM 運作原理拆解：從你打字到它回答，只有 5 個步驟
你在對話框打一句話、按下送出，到 AI 開始吐字，中間其實只發生了 5 個步驟。我把它畫成一張圖，你可以先看整體，再看下面逐一拆解：
步驟① 斷詞（Tokenization）：把你的句子切成「積木」
電腦看不懂文字，只看得懂數字。所以 AI 拿到你的句子，第一件事是把它切成一塊一塊的小單位，這個小單位叫 token（中文常翻成「詞元」，你就想成 AI 的「積木」或「字」）。一個 token 可能是一個完整的詞、半個詞、一個標點，甚至只是幾個字母。
舉例：英文 strawberry 在 AI 眼裡可能被切成 straw ＋ berry 兩塊積木；中文「玉山很高」可能被切成「玉山」「很」「高」。關鍵在於：切完之後，每一塊積木都會被換成一個固定的數字編號（例如 straw ＝ 5847、berry ＝ 12044）。從這一刻起，AI 處理的就不再是「文字」，而是一串數字編號。
白話結論：AI 根本沒有「看到」你打的字，它看到的是一串積木編號。這也是為什麼它會犯一個很蠢的錯——數不出「strawberry」裡有幾個 r。因為它眼裡的 strawberry 是 straw＋berry 兩塊積木，不是 s-t-r-a-w-b-e-r-r-y 十個字母，它「看不到」字母，自然數不準。（順帶一提，token 也是 AI 收費的單位，想省錢的人一定要懂它，這我們另外寫了一篇 省 token 教學。）
步驟② 詞向量（Embedding）：幫每塊積木標上「語意座標」
光有一個冷冰冰的編號（berry ＝ 12044）還不夠，AI 怎麼知道「berry」跟「fruit」很像、跟「car」很不像？這就是 Embedding（詞向量） 在做的事：它把每一塊積木，變成一長串數字座標，就像在一張超巨大的「語意地圖」上幫每個詞標一個位置。
想像一張地圖：意思相近的詞，位置就靠在一起。「貓」「狗」「兔子」會擠在地圖的「動物區」；「開心」「快樂」「興奮」會在「情緒區」。最神奇的是，這張地圖連「關係」都記得住——有個經典例子：「國王」減「男人」加「女人」，算出來的座標位置，竟然剛好落在「皇后」附近。AI 沒有人教它這層關係，這是它自己從海量文字裡「學」出來的。
白話結論：Embedding 就是把「文字」翻譯成 AI 能做數學運算的「座標」。有了座標，AI 才能用「距離遠近」來判斷詞與詞之間的意思有多接近。
步驟③ 注意力（Attention）：讓每個字「回頭看」其他字
這是整個 LLM 運作原理裡最核心、也是最厲害的一步，它有個正式名字叫 Attention（注意力機制），是 2017 年 Google 一篇叫《Attention Is All You Need》的論文提出來的——現在所有主流 AI（GPT、Claude、Gemini……）的骨架「Transformer」，都建立在它之上。
它在解決一個問題：同一個詞，在不同句子裡意思完全不同。看這兩句——「我去河邊釣魚」跟「我去旁邊的銀行」，AI 怎麼知道哪個「邊」是河岸、哪個是位置？答案是：讓每個詞在決定自己意思之前，先「回頭看一遍」句子裡的其他詞，看看誰跟自己最相關，再決定要參考誰。
打個比方：注意力就像你在開會做筆記，寫到某個關鍵字時，你會自動把目光掃回前面幾句話，確認這個字在這個脈絡下指的是什麼。AI 的每一塊積木都會做這件事——而且是同時對所有其他積木做，再依「相關程度」分配注意力。這就是為什麼 LLM 能理解超長的上下文、能搞懂「它」指的是前面哪個東西。
白話結論：注意力機制 ＝ 讓每個字「看別人臉色」來決定自己的意思。這一步，就是 AI 看起來「真的懂上下文」的祕密。
步驟④ 預測下一個字：本質就是「機率接龍」
經過前面三步，AI 已經把你的整句話「消化」成一堆充滿語意的數字。最後一步，也是它真正在做的唯一一件事：算出「下一個 token 最可能是什麼」的機率表。
注意，它不是只挑一個答案，而是對「字典裡的每一個可能的 token」都給一個機率。例如你打「台灣最高的山是」，它內部會算出類似這樣的一張表：「玉山」87%、「雪山」6%、「合歡山」3%、「一座」1%……然後從機率高的裡面選一個吐出來。
白話結論：AI 給你的每一個字，都是一次「機率投票」的結果。它不是「知道」玉山是答案，它是「算出」在這個句子後面接『玉山』的機率最高。聽起來只是機率遊戲，但當這個遊戲玩在讀過半個網路的規模上，產生的結果就聰明到嚇人。
步驟⑤ 一個字一個字吐出來（自迴歸 Loop）
這裡有個很多人誤會的點：AI 不是一次想好整段答案再吐給你，而是一次只生一個 token。生完「玉」，它把「玉」接回句子尾巴，變成「台灣最高的山是玉」，然後拿這個新句子重頭再跑一次步驟①到④，預測下一個字「山」；接著再跑一次，預測「，」……如此重複，直到它預測出一個「結束」訊號為止。
這個「生一個字、接回去、再生下一個」的迴圈，正式名稱叫 自迴歸（autoregressive）。你在畫面上看到字一個一個冒出來的打字機效果，不是動畫特效——那就是它真的在一個一個算。也因為每個字都要重跑一輪，你的對話越長，它每次要回頭看的東西就越多，運算成本就越高，這也是 AI 服務按 token 計費的根本原因。
一個完整範例：看 LLM 怎麼「想」出答案
把上面五步串起來，看一個從頭到尾的例子。假設你輸入：「台灣最高的山是」。
- 斷詞：句子被切成「台灣」「最高」「的」「山」「是」幾塊積木，各自換成數字編號。
- 詞向量：每塊積木被標上語意座標，AI 「感覺到」這是一句在問地理、問「最高」的句子。
- 注意力：「山」這塊積木回頭看，發現「台灣」「最高」跟自己高度相關，於是把脈絡鎖定在「台灣＋最高的山」。
- 算機率：AI 對所有可能的下一個 token 算出機率表（見下圖）——「玉山」遙遙領先。
- 吐字 + 迴圈：吐出「玉」，接回去再算一輪吐「山」，再算一輪預測出「結束」，完成回答：「玉山」。
看懂這張圖，你就懂了 LLM 的靈魂。它沒有「查到」玉山，它是「算出」在這個句子後面，『玉山』的機率最高。整個 AI，就是把這個動作重複了千千萬萬次。
那它的知識從哪來？訓練的兩個階段
機率接龍要玩得準，AI 得先「學」過。一個 LLM 的養成，主要分成兩個階段，我用「學生」來比喻：
階段一：預訓練（Pre-training）＝ 瘋狂讀書的自學階段
把幾乎整個網路的文字（書、維基百科、論壇、程式碼……）丟給模型，要它做一件超無聊但超有效的事：把句子後半段遮起來，叫它猜下一個字，猜錯就微調內部的旋鈕（參數），猜對就保留。這件事重複幾兆次之後，那些旋鈕慢慢被調到一組能把「下一個字」猜得很準的數值——而要把字猜準，它就不得不順便學會文法、常識、邏輯、甚至寫程式。
白話結論：沒有人「教」模型知識，知識是它為了「把接龍玩好」而自己長出來的副產品。這階段結束後得到的叫「基礎模型（base model）」——很有料，但講話顛三倒四、不一定聽你指令。
階段二：後訓練（Post-training）＝ 調教成有禮貌的助理
接著用「指令微調」和「人類回饋強化學習（RLHF）」來調教它：給它看大量「好的問答示範」，再讓人類幫它的回答打分數——有禮貌、有幫助、不亂講話的就給高分。模型為了拿高分，就學會了當一個「聽話、安全、有用」的助理。你現在用的 ChatGPT、Claude，都是經過這層調教的成品，不是赤裸裸的基礎模型。
白話結論：預訓練給它「腦袋與知識」，後訓練給它「教養與口條」。兩者缺一不可。
為什麼 LLM 會「一本正經地胡說八道」？
懂了上面的原理，這個最讓人困惑的現象就秒懂了。AI 的目標從頭到尾是「把下一個字猜得『像』」，不是「把答案猜得『對』」。大多數時候「像」剛好就是「對」，但有時候——尤其是它不知道答案時——它還是會硬擠出一段「讀起來很順、很像那麼回事」的話，這就是俗稱的幻覺（hallucination）。它不是在故意騙你，它只是非常盡責地在「接龍」，哪怕內容是編的。
另外一個你一定遇過的現象：同一個問題，每次回答都不太一樣。這是因為步驟④選字時，工程師會故意加一點隨機性，這個旋鈕叫 溫度（temperature）。溫度調高，它會更願意挑機率沒那麼高的字，回答更有創意、更跳；溫度調低（趨近 0），它幾乎每次都挑機率最高的字，回答更穩定、更死板。寫詩用高溫，算數學用低溫，就是這個道理。
所以使用 LLM 的鐵則是：把它當成一個博學但偶爾會唬爛的聰明朋友，重要的事——數字、法律、醫療、報價——一定要自己再查證一次。這不是它壞掉了，這是它「機率接龍」本質的必然結果。
關於 LLM 運作原理的 8 個常見誤解（FAQ）
Q1. LLM 真的「聽懂」我在說什麼嗎？
不算真的懂。它沒有意識、沒有感受，不「理解」意義。它只是把你的文字轉成數字，算出最合理的下一串文字。但因為它讀過的東西太多、機率算得太準，產生的結果在多數情況下跟「懂」難以區分——這也是它強大又危險的地方。
Q2. 它是從一個大資料庫「查」答案的嗎？
不是。模型裡沒有存著一篇篇文章供它檢索。它把學到的東西「壓縮」進了那幾十億個參數旋鈕裡，回答時是即時用機率算出來的，不是查表。（例外：有些產品會外接搜尋或資料庫，叫 RAG／聯網，那是另外加的功能，不是 LLM 本身的運作方式。）
Q3. 為什麼同一個問題，每次答案不一樣？
因為有隨機性。選字時的「溫度」參數會讓它不總是挑機率最高的字，所以同一句問題會長出不同的回答。把溫度設到最低，答案就會幾乎固定。
Q4. LLM 會「記得」我之前說過的話嗎？
有條件地記得。它本身沒有長期記憶；它能「記得」的，只有這次對話裡塞得進它「視線範圍」的文字，這個範圍叫上下文視窗（context window）。超出範圍的舊對話就會被擠掉、被遺忘。（部分產品另外做了「記憶」功能，是把重點另存再餵回去，不是模型天生會記。）
Q5. 參數越多，就一定越聰明嗎？
不一定。參數量（旋鈕數量）只是其中一個因素。訓練資料的品質、後訓練的調教、架構設計，每一項都關鍵。近年很多「小而精」的模型，表現勝過更早期、參數更多的大模型。別只看參數量這個數字。
Q6. 它為什麼會編造不存在的資料、論文、連結？
因為它的目標是「猜得像」，不是「猜得對」。當它沒把握時，仍會生出一段「格式正確、讀起來很可信」的內容——這就是幻覺。看到具體的數字、人名、引用、網址，務必自己查證。
Q7. 為什麼它連 strawberry 有幾個 r 都會數錯？
因為它看到的不是字母，是「積木（token）」。strawberry 在它眼裡是 straw＋berry 兩塊，不是十個字母，所以它沒辦法可靠地一個個數字母。這不是它笨，是斷詞機制的先天副作用。
Q8. 我需要會寫程式，才能用好 LLM 嗎？
完全不需要。會打字、會用白話把需求講清楚，你就能用得很好。真正拉開差距的不是程式能力，而是「會不會問」——懂了原理，你就知道要把脈絡講足、要它分步驟、重要答案要它附出處並自己查證。想系統性學會怎麼「指揮」AI，可以看我們的 AI 實戰課程。
給新手的 5 個重點
- 它在猜，不在查。LLM 的本質是「機率接龍」——預測下一個最可能的字，不是檢索資料庫。
- 它看的是 token，不是字。所以它會數錯字母、也按 token 收費。對話越長、越貴。
- 注意力是它「懂上下文」的祕密。把脈絡、背景講清楚，它的回答品質會天差地別。
- 幻覺是本質，不是 bug。它會一本正經地唬爛，重要資訊一定要自己查證。
- 用得好不靠寫程式，靠會問。懂了原理，你就懂怎麼把需求講到它能精準接龍。
📚 延伸閱讀
- Claude 怎麼省 token？新手必學的 10 招實戰技巧——這篇懂了 token 是什麼，下一步就學怎麼少花冤枉錢。
- AI Agent Harness 是什麼？——當 LLM 不只會聊天、開始「動手做事」，靠的就是這層執行架構。
- Claude vs Claude Code vs Claude Cowork 差在哪？——同一個 LLM 大腦，包成三種工具，一張表教你選對。
- Claude Opus 4.8 完整解析——看一個真實的頂尖模型，把這篇講的原理發揮到什麼程度。
- 當 AI 開始自己寫 AI——理解了原理，再來看這場正在發生的變革會更有感。
- AlphaLab AI 教學總覽——更多零基礎也看得懂的 AI 白話教學。
結語：看懂了「機率接龍」，你就看懂了 AI
繞了一圈，我們回到開頭那句話：LLM ＝ 一台超強的「猜下一個字」接龍機器。斷詞把句子切成積木、詞向量給積木座標、注意力讓積木互相理解、再算出下一個字的機率、一個字一個字接龍出來——這就是 LLM 運作原理的全部骨架。那些看似有靈魂的對話，背後是冷靜到極致的機率計算。
而這正是好消息：當你不再覺得 AI 是個神祕黑盒，你就能更聰明地用它——知道何時該信、何時該查、怎麼問才會得到好答案。看懂原理的人，才是真正能駕馭工具的人。下一個被 AI 放大十倍生產力的，可以是你。
免責聲明
本文為教育與知識普及用途，撰寫於 2026 年 6 月，內容以「幫助新手建立正確心智模型」為目標，對技術細節做了大量白話化簡化，實際模型在數學與工程上遠比本文複雜，細節請以各 AI 官方文件與學術論文為準。文中提到的概念可延伸參考 Transformer 原始論文《Attention Is All You Need》（Vaswani et al., 2017，Google）。AI 具有輸出錯誤資訊的可能，重要決策請由人類複核。本文無業配內容。