LLM 幻覺問題：先把「自信地胡說」這件事說清楚
LLM 幻覺問題指的是模型輸出語法流暢、語氣自信，內容卻與事實或來源不一致的現象。它不是模型當機，也不是隨機亂碼，而是統計語言模型在處理低資訊區域時的常態行為。
這個現象有五種常見表現。事實錯誤，例如把開源協議寫成 Apache 2.0，但實際是 MIT。捏造引用，列出根本不存在的論文題目與作者。無意義回答，把使用者問題接成一段邏輯通順、卻完全不相關的內容。上下文不一致，前後段對同一個實體給出衝突描述。細節錯誤，年份、版本、人名局部失準。
這份清單不是要嚇人，而是先讓讀者知道，幻覺不是某一種錯誤，是一群成因相近、表現分散的問題集合。Google Cloud 的官方說明把幻覺定義為「AI 模型生成的錯誤或誤導性結果」，這個定義夠寬，也說明了為什麼後面要從統計層、評測層、引用層三個切面分開談。我們的監測顯示，繁中市場目前的相關文章多數停在這個定義段，沒有再往下挖。
為什麼資料正確時 LLM 還是會編造：統計層的兩個機制
真正讓人困惑的不是「資料缺漏導致錯」，而是資料正確時模型仍會編造。這個現象的根源是兩件事：next token prediction 不負責判定真假，加上單例事實（singleton facts）在訓練資料中的稀疏性。
next token prediction 沒有真假概念
大型語言模型的核心任務是條件機率預測：給定前文，下一個最可能出現的詞元是什麼。這個任務只學語料的條件分佈，事實正確只是高頻共現的副產物。模型學到「巴黎的旁邊常出現法國」這種共現關係，不代表它真的理解地理。
這也是為什麼把 LLM 想成資料庫會誤導判斷。它更接近一個會用流暢語言補完句子的機率模型。延伸閱讀可參考 LLM 大型語言模型的運作機制，那篇從訓練資料、推理機制到模型版圖三個層次拆解。
單例事實是高風險區
單例事實指的是訓練資料中只出現一次或極少次的事實。例如某位非公眾人物的生日、冷門研討會某篇論文的精確標題、特定產品的小眾參數。當訓練語料對某個事實的覆蓋率接近單一樣本時，模型無法靠模式推導，只能用相關詞彙補完。
這個概念來自 Kalai 等人 2025 年發表的《Why Language Models Hallucinate》。論文的數學推導指出，當訓練資料中的單例率（singleton rate）越高，模型在該知識點上的幻覺率下界就越高。換句話說，這是統計上的必然，不是訓練不夠。
解碼策略放大不確定性
推理階段的 temperature、top-p、top-k 設定，會在低資訊區域進一步放大編造傾向。當模型對下一個詞的機率分佈很平緩時，sampling 等於隨機從一群「看起來合理」的候選詞中挑一個。這個結果可能流暢，但事實基礎極弱。這也是為什麼降低 temperature 對幻覺有抑制效果，但不能根除。
評測制度才是元兇：二元評分機制如何訓練模型學會猜
把成因停在統計層仍不夠。OpenAI 對自家研究的官方說明把矛頭指向更上游的問題：主流評測基準的二元評分機制，把「猜題」訓練成模型的最佳策略。
主流基準的計分缺陷
研究團隊檢視了十個業界主流評測標準，包括 MMLU-Pro、GPQA、SWE-bench 等。絕大多數的計分規則是這樣的：答對得 1 分，答錯得 0 分，棄答（回答「我不知道」）也是 0 分。
這個設計把「誠實表達不確定」與「錯誤答案」放在同一個評分位階。對受訓的模型而言，棄答永遠不會比猜題分數更高，所以理性策略就是猜。論文用一句話總結這個現象：「一個能誠實說我不知道的系統，不應該得到比一個自信卻錯誤的系統更低的分數。」
「猜題」是最佳策略的數學必然
當棄答和答錯的得分相同，期望值的計算結果只剩下一個方向：只要猜對的機率大於 0，猜就比不猜划算。這不是模型品德問題，是被訓練流程結構性誘導出來的行為。論文把這種現象稱為「對謙遜的系統性懲罰」。
GPT-5-thinking-mini 與 o4-mini 的對照
OpenAI 公開頁面提供了一組可驗證對照。比較 gpt-5-thinking-mini 與舊版 o4-mini 在同一份評估上的表現，可以觀察棄答率、準確率、錯誤率的取捨。
| 指標 | gpt-5-thinking-mini | OpenAI o4-mini | 觀察 |
|---|---|---|---|
| 棄答率 | 較高 | 較低 | 新版更願意說「我不知道」 |
| 準確率 | 較低 | 較高 | 少答自然降低總分 |
| 錯誤率 | 較低 | 較高 | 幻覺真的下降了 |
這組數據的解讀關鍵在於：如果只看準確率，新版看起來退步，但把錯誤率拉進來看，新模型其實是用「少答」換「少錯」。這個取捨方向，剛好對應論文主張的訓練改革。
解方：對亂猜倒扣分
論文提出的對應方案是社會-技術混合改革。在主流基準裡導入類似聯考倒扣的計分制：答對得 1 分，答錯倒扣 9 分，棄答得 0 分。這種設計讓模型必須評估自己對該題的把握，把不確定的題目放生才是理性選擇。
排名是結果，不是目標。當前評估排行榜如果還停在「準確率優先」的單一指標，幻覺率就很難在訓練端被根治。
幻覺成因清單：訓練、推理、評測三層
把上面分散的論點整理成一張表，方便讀者帶走。幻覺成因可以歸納在三層：訓練層、推理層、評測層，每一層的問題互相疊加。
| 層 | 主要成因 | 核心機制 | 典型表現 |
|---|---|---|---|
| 訓練層 | 單例事實、資料缺漏、學到流暢性而非真假 | 條件機率預測無法處理低覆蓋知識點 | 冷門人物生日、特定論文題目錯誤 |
| 推理層 | 提示模糊、上下文窗口限制、temperature 過高 | 解碼策略在低資訊區域放大隨機性 | 長文本前後段不一致、版本號跳號 |
| 評測層 | 二元評分鼓勵猜題、單例率懲罰 | 訓練回饋訊號獎勵自信而非誠實 | 面對冷門問題仍給斬釘截鐵答案 |
這三層不是獨立的，是疊加的。一個冷門查詢同時碰到資料稀疏（訓練層）、上下文模糊（推理層）、模型被訓練成偏好猜題（評測層），最後就會看到一段邏輯通順、引用具體、但根本不存在的內容。
不同模型的幻覺表現：可查證的對照數據
幻覺率不是固定數字，會隨資料集難度、評估方法、模型版本變動。這也是為什麼直接比較「某模型幻覺率 5%」這種說法意義不大，要看評估條件。
OpenAI 自家模型的對照
前面 GPT-5-thinking-mini vs o4-mini 的對照，是 OpenAI 自家公開的內部評估數據。它的價值不在於告訴你新模型多好，而在於展示「棄答率與錯誤率的取捨」可以被量化，且新版確實往「少答少錯」方向移動。
第三方幻覺率排行的觀察
Vectara 從 2023 年開始維護的 Hallucination Leaderboard，是目前較常被引用的第三方排行。它的方法在 2025 年從 Hughes Hallucination Evaluation Model（HHEM）擴充到 FaithJudge，並把資料集從早期的單純摘要任務換成超過 7,700 篇橫跨法律、醫療、金融、教育、科技的多領域文件。
Vectara 公開觀察是這樣：在新版較難的資料集上，GPT-5、Claude Sonnet 4.5、Grok-4、Gemini 3 Pro 的幻覺率都超過 10%。這個數字表示，即使是 2025 年公認最強的幾個模型，在企業實際資料的摘要任務上仍會有十分之一以上的輸出含有與來源不一致的描述。
怎麼解讀這些數據
這些數字的解讀有兩個原則。第一，幻覺率隨資料集難度劇烈變動，看到 1% 與看到 15% 可能是同一個模型在不同基準上的結果。第二，棄答率高不代表模型差，要把錯誤率一起看。一個願意說我不知道的模型，在高風險場景反而是更安全的選擇。
數據顯示的趨勢比官方說法更誠實。各家在發布會上講的幻覺改善，幾乎都建立在自家挑選的測試集上，第三方獨立評估的數字往往更難看。
幻覺與 AI 搜尋引用：SEO 從業者真正要擔心的事
對 SmartLink 的讀者而言，幻覺最直接的衝擊不在 ChatGPT 對話框，而在 AI Overview 與 Perplexity 引用內容時的失誤。當你的內容被 AI 搜尋摘要時，幻覺機制會以兩種方式造成風險。
AI Overview 引用準確度的兩種失誤
第一種是 grounding 失敗。AI Overview 引用了你的頁面，但摘要內容與你原文的論點不符。原文寫「2025 年第三季 AIO 在繁中市場的覆蓋率為 28%」，AIO 摘要卻寫成「超過五成」。引用標示指向你的頁面，責任卻不在你身上。
第二種是選錯來源。模型從一群候選頁面中挑了權威性較弱、但語意相近的頁面當作引用來源。這種狀況下，你的內容明明寫得更精確，卻被未引用，反而是一個品質較低的競品被點名。
這兩個現象的機制可以參考 LLM Grounding 機制是什麼，那篇談模型如何從檢索結果中決定要引用哪段、改寫哪句。
Perplexity 與 ChatGPT Search 的差異
不同平台的 grounding 強度與引用透明度差距很大。Perplexity 的設計傾向把每個句子對應到具體 URL，引用透明度高，但這不代表 grounding 一定正確，仍可能在改寫時失準。ChatGPT Search 的引用密度較低，遇到熱門查詢甚至會混合內部知識與外部檢索結果，幻覺風險相對較高。Google AI Overview 介於兩者之間，引用標示有，但摘要層級的改寫空間較大。
內容創作者能補的信號
幻覺的源頭在模型，但內容端可以做幾件事降低被誤引機率。明確標註資料來源與日期，讓模型知道哪段是事實陳述、哪段是觀點。避免歧義表述，同一個概念在全文用同一組詞彙。Schema 標記，特別是 FAQPage 與 Article 的精確結構化欄位。Q&A 結構，把答案寫在問題下方第一段，讓模型容易切片引用。延伸可參考 Google AI Overview 的引用邏輯與 SEO 信號。
緩解幻覺的實務做法：給三種角色的不同清單
緩解策略不該是萬用清單，要看你是誰、要解決什麼風險。內容主管、SEO 顧問、技術 PM 三個角色的因應重點不一樣。
給內容主管的清單
有些任務絕對不該交給 LLM 自動完成，這個分界要清楚。捏造引用風險高的任務：白皮書中引用學術論文、法規條文、特定企業公開資料。未公開數據的填補：當你需要某個產業的精確數據，不要讓模型「估算」。最新法規與政策變動：知識截止後的內容，模型回答的可信度趨近於零。
實務上的做法是：把 LLM 用在「重組已知資訊」「修飾語氣」「列出問題清單」這類低風險工作，把「事實查證」「精確引用」留給人。
給 SEO 顧問的清單
顧問端的目標是降低自家內容被 AI 搜尋誤引的機率。具體做法：每個關鍵事實都標註來源連結，方便模型 grounding。同義詞控制，全文中對同一實體只用一組標準稱呼，減少模型改寫時走偏的空間。Schema FAQPage 把問答對結構化，讓答案有明確邊界。最後，避免在文章中出現相互矛盾的數據版本，模型遇到衝突會有自己的判斷邏輯。
給技術 PM 的清單
導入 LLM 流程時，建議加上三層防護。檢索層：先用 RAG 把模型答題範圍限縮在受信任的資料集合，降低訓練層的單例事實風險。輸出驗證層：用第二個模型或規則檢查器，比對輸出與檢索結果是否一致，這就是 Nature 2024 年那篇研究提到的「以 LLM 對抗 LLM」做法的工程化版本。人工抽檢層：高風險任務（法律、財務、醫療）至少維持一定比例的人工審核，這是合規與責任歸屬的最後一道線。
風險與 compliance 邊界：這些情境不要用 LLM
把不可靠任務列成清單，方便帶回公司內部討論。這個清單的邏輯是：當輸出錯誤的法律或財務責任高於 LLM 帶來的效率收益時，就不該交給模型獨立完成。
- 法律條文與判例引用。Avianca 航空案（2023）律師用 ChatGPT 生成根本不存在的判例，被法院制裁。Anthropic Claude 在 2025 年版權訴訟中也出現過誤引文獻的案例。
- 醫療診斷與處方建議。即使模型回答看起來合理，差一個劑量單位可能就是醫療事故。
- 最新財報數字與市場數據。模型不知道知識截止後的真實數字，會用相關但過時的數據補完。
- 特定人物的個人資料生成。捏造私人資訊風險不只是不準確，可能直接觸及隱私法規。
- 需要可審計來源的稽核工作。當每個結論都需要追溯到原始文件時，模型自由改寫會讓稽核鏈中斷。
這個清單的反面是：低風險、可由人快速複核、輸出錯誤不會造成實際損失的任務，都可以放心交給 LLM。判斷邏輯不是「能不能用」，是「錯了之後誰負責、損失多大」。
常見問題
LLM 幻覺是 bug 還是 feature？
嚴格說都不是。它是統計語言模型本質的副作用，加上現行評測制度的激勵偏差，共同產生的常態行為。把它當 bug 期待修復會失望，把它當 feature 接受也不對。比較準確的看法是「機率模型在低資訊區域的預期外溢」。
為什麼 LLM 會自信地說錯？
因為訓練流程獎勵流暢性與斷言式表達，棄答得到的分數和答錯一樣低。對受訓的模型而言，自信且具體的錯誤答案，期望分數高於誠實的「我不知道」。這是 Kalai 等人 2025 年論文的核心論點。
RAG 可以完全消除幻覺嗎？
不行。RAG 把答題範圍限縮在受信任的資料集合，能大幅降低訓練層的幻覺，但無法防止改寫階段的幻覺。模型仍然可能把檢索到的內容用錯誤方式組合，或在 grounding 過程把 A 的論點配到 B 的來源上。RAG 是抑制不是根除。
GPT-5 的幻覺率比 GPT-4 低多少？
沒有單一數字答案，要看評估條件。OpenAI 自己公開的對照顯示新版傾向「少答少錯」，棄答率提高、錯誤率下降。Vectara 的第三方排行則顯示在較難的多領域資料集上，GPT-5 仍有超過 10% 的幻覺率。所以「低多少」這個問題的答案是「看你問哪個基準」。
哪些類型的問題幻覺率最高？
單例事實類最高：冷門論文題目、特定人物生日、小眾產品的精確參數。其次是「需要時間敏感資訊」的查詢，例如最新財報、新法規。第三是「具體引用」的需求，要求模型給出 URL、頁碼、章節號時，捏造率顯著升高。
怎麼快速判斷 LLM 的回答有沒有幻覺？
三個快速檢查。第一，給的每一個具體數字、人名、URL 都單獨驗證，越具體的部分越值得懷疑。第二，要求模型同時給來源，看它能否提供可訪問的連結（不能就是警訊）。第三，把同樣問題用不同問法問第二次，看答案是否一致，差異越大幻覺機率越高。
AI Overview 的引用為什麼有時候會把我的內容改錯？
因為 AI Overview 的摘要層仍然是 LLM 改寫，幻覺機制照樣作用。grounding 失敗會讓引用標示指向你，但內容偏離原文。應對方式是讓你的關鍵論點「短句、具體、有數據」，這樣模型抽取改寫的空間變小，誤引機率也下降。
提高 temperature 會增加幻覺嗎？
會。temperature 越高，sampling 在低機率詞元上的選擇越多，等於放大解碼策略的隨機性。在事實性任務上把 temperature 設為 0 或極低值是合理選擇，但這只能壓抑推理層的幻覺，無法處理訓練層與評測層的成因。
為什麼 LLM 不直接說「我不知道」？
因為它被訓練成不要說。主流評測基準把「我不知道」與「答錯」放在同樣的零分位階，模型在 RLHF 階段也會被偏好斷言式回答的標註者塑形。要讓模型學會誠實棄答，需要評測機制端先改變計分規則。
中文（繁中）內容的幻覺率比英文高嗎？
多數研究顯示是的。原因是訓練語料中英文佔比遠高於繁中，繁中的單例率相對更高，加上繁中與簡中混訓造成的詞彙偏移，會讓模型在台灣本地用語上更容易產生混淆。具體數字隨評估方法變動，但方向一致。
延伸閱讀：RAG 如何降低幻覺的技術原理解析，說明 AI 搜尋引擎如何透過 RAG 架構選擇引用內容。
RELATED EVIDENCE