定義
AI 幻覺（AI Hallucination）是生成式 AI 產生與事實、提供資料或邏輯不一致內容的現象；直接答案是，AI 說得流暢不等於說得正確。幻覺可能是捏造人物、數字、規格、引用、網址，也可能是把正確片段拼成錯誤結論。
因此，企業不應只用「看起來像不像答案」判斷品質。只要輸出會影響客戶、員工、金錢或正式紀錄，就應要求可追溯依據、設定停止條件，並保留適當的人工覆核。
為什麼中小企業需要了解這個？
中小企業常希望 AI 同時處理客服、文件摘要、銷售建議與內部問答，但不同工作對正確性的要求不同。若把通用模型當成絕對可靠的資料庫，錯誤就可能直接進入報價、產品說明或管理決策。
較穩健的做法是先定義 AI 的工作邊界：哪些問題可依公司資料回答，哪些必須引用來源，哪些資料不足就回答不知道，哪些情況一定交給真人。需要企業內容時，可搭配企業知識庫與RAG建立可查證的上下文。
幻覺的成因
常見成因包括訓練資料沒有涵蓋問題、資訊已過時、使用者沒有提供必要脈絡、問題含糊或互相矛盾，以及模型把語言上的合理延續誤當成事實。檢索系統也可能取到錯誤版本、無關段落或權限不應看見的資料。
提示詞若要求「一定要回答」或預設所有問題都有答案，會增加模型補空白的壓力。把「資料不足時說明不知道」寫入規則，並讓系統回傳來源與版本，能降低但不能取代查證。
如何偵測
先要求每個重要主張附上原始來源、文件名稱或段落位置，再逐項回到原文核對。若來源不存在、無法支持完整主張，或引用內容被斷章取義，就應標記為待確認。測試時要加入錯字、缺欄位、相似名稱與故意矛盾的資料。
對高風險流程，可建立固定測試集，定期觀察錯誤類型與人工退回原因。偵測不是只在上線前做一次，也要在知識更新、模型更換或提示詞修改後重新檢查。
降低幻覺的實務做法
RAG 讓模型先從核准的知識庫找資料；來源標註讓使用者知道答案依據；人工覆核則把高風險輸出擋在正式行動前。除此之外，還要維護文件版本、限制檢索範圍、要求缺資料時停止，並用結構化格式減少遺漏。
可以把答案拆成「已知事實、推論、待確認問題」三部分，避免推測被誤讀為定論。若系統要觸發寄信、更新資料或提供承諾，應保留HITL核准點與可回溯紀錄。
哪些場景風險最高
醫療與安全建議、法律或合約解釋、財務分析、個資與資安事件、產品規格與保固、報價退款、對外客服，以及任何會影響正式決策的內容，都需要較高的證據門檻。風險不只取決於模型，也取決於錯誤是否可被及時發現與回復。
低風險的腦力激盪可以容許更多探索；高風險工作則應縮小資料來源、限制輸出、逐項查證並由適任人員負責最後決策。
實際應用範例
例如內部客服助理先從核准的產品文件檢索相關段落，再輸出答案、來源與「資料不足」提示。若問題涉及未載明的保固承諾，系統不自行推測，而是建立轉人工案件；新發現的錯誤則回填測試集與文件維護流程。
這樣的設計不是宣稱 AI 永遠不會錯，而是讓錯誤較早被看見、較容易追查，也不會在沒有授權的情況下直接變成對外承諾。
如何建立可查證的回答流程
先定義答案必須依據哪些資料，再決定檢索、提示與審核方式。文件應有擁有者、版本與生效狀態；檢索結果應保留來源位置；模型輸出則要區分直接引用、整理摘要與推論。任何沒有來源支持的關鍵主張，都應進入待確認狀態，而不是用語氣掩飾不確定。
對外客服可設計固定的拒答與轉接範本，讓模型在資料不足、問題超出服務範圍或客戶要求特殊承諾時停止。內部分析則可要求列出假設、計算步驟與待補資料。這些做法會讓回答更容易由真人快速檢查，也更容易定位錯誤發生在資料、檢索還是生成階段。
建立錯誤回報機制
錯誤回報機制的重點，是讓任何使用者都能快速標記問題、保留證據並交給指定人員判斷，而不是只在事後口頭提醒「下次小心」。回報入口應與對話或工作紀錄相連，避免遺失上下文。
回報內容至少要能辨識發生時間、使用情境、原始輸入、模型輸出、引用來源與影響範圍；若含敏感資料，應限制檢視權限。負責人先分級處理：暫停對外使用、通知受影響的人員、確認根因，再決定修文件、檢索、提示詞、權限或人工核准。修正後用原案例與邊界案例重測，並將結論回填測試集，讓錯誤不只被個別更正，也能改善整條流程。
發生幻覺時的處理
發現錯誤後，先撤回或更正尚未確認的內容，保存原始輸入、檢索片段、模型輸出與相關版本，再判斷是否有客戶、員工或正式紀錄受到影響。不要只刪掉錯誤答案，否則團隊無法知道問題如何發生，也無法驗證修正是否有效。
後續改善可以包含更新文件、調整檢索條件、收緊提示規則、增加反例測試、限制工具權限，或把該類任務改為人工核准。修正後要用相同案例與新的邊界案例重跑，確認沒有把問題轉移到其他情境。
如何建立幻覺的回報與學習機制？
發現幻覺時，團隊應保留足夠證據、先判斷影響範圍，再決定暫停、修正或轉人工；回報的目的不只是更正一則答案，而是找出資料、檢索、提示、模型或權限哪一層需要改善。
回報紀錄可包含發生時間、任務、原始輸入、引用片段、模型版本、輸出、人工判定與處理結果，並依敏感程度限制存取。將案例分類為資料缺漏、來源過期、檢索不相關、理解錯誤或無依據生成，再加入固定測試集。修正後由業務人員確認，重跑原案例與反例；若影響對外內容或正式紀錄，也要留下更正與通知的責任鏈。