---
title: "醫療 AI 客服能不能導入？專業術語、幻覺與人工覆核風險指南"
description: "醫療 AI 客服適合先處理行政與公開衛教資訊，不適合直接取代臨床判斷。本文拆解專業術語、知識庫來源、幻覺、個資、分流與人工覆核的導入標準。"
canonical: "https://yotron-ai.com/blog/medical-ai-knowledge-base-hallucination-governance"
published: "2026-09-16"
last-updated: "2026-09-16"
---

# 醫療 AI 客服能不能導入？專業術語、幻覺與人工覆核風險指南

醫療 AI 客服適合先處理行政與公開衛教資訊，不適合直接取代臨床判斷。本文拆解專業術語、知識庫來源、幻覺、個資、分流與人工覆核的導入標準。

醫療 AI 客服應先限定在掛號、流程、院所與核准衛教等低風險資訊，不能讓生成模型自行取代診斷、用藥或急症判斷。真正的導入門檻是術語與來源治理、個資權限、幻覺拒答和人工覆核，而不是模型能不能把回答寫得像醫護人員。

優創智能或其他導入團隊若服務醫療場景，應把「不回答什麼」和「何時交給誰」放在需求第一頁。本文是系統與流程治理指南，不提供診療建議；醫療機構仍須依適用法規、專業規範與內部風險管理審查。

## 醫療 AI 客服的適用範圍：先做行政，再談專業內容

### 四層風險分流表

把使用者問題分層，才能決定自動回答、人工覆核或直接轉交：

| 層級 | 問題例子 | AI 行為 | 人工要求 |
| --- | --- | --- | --- |
| M0 公開行政 | 看診時段、地址、掛號方式 | 可用核准 FAQ 回答 | 保留一般轉接 |
| M1 流程說明 | 檢查前要準備什麼文件 | 引用版本化說明 | 不確定時轉人工 |
| M2 個人資料 | 查詢本人預約、報告是否完成 | 驗證身分後最小回傳 | 例外由指定人員處理 |
| M3 臨床高風險 | 症狀診斷、用藥、急症判斷 | 不提供自行判斷 | 立即依院內流程轉交 |

同一個詞在不同語境風險可能不同。例如「藥」可以是公開領藥流程，也可以是個人用藥調整。路由先判斷風險，不能讓模型只因為檢索到一段文字就自動回答。

### 專業術語為什麼容易產生錯誤？

醫療內容可能同時有縮寫、英文、品牌名、俗稱、同音字、不同科別用語與地區差異。模型能生成相似文字，不代表它知道每個詞在特定院所、檢查或病歷情境裡的精確含義。

術語治理至少要包含：

- 核准術語、英文、縮寫、同義詞和禁用詞。
- 詞彙適用科別、文件來源與版本。
- 相似名詞的澄清問題。
- 無法判斷時的拒答與轉接話術。
- 每次術語變更後的固定回歸測試。

## 醫療 AI 知識庫建置：來源與版本要可追溯

### 哪些資料可以進 production？

資料能被搜尋，不等於可以被客服使用。每份文件都要經過權限、內容、版本與適用範圍確認：

| 資料類型 | 進入正式知識庫前要確認 |
| --- | --- |
| 院內流程 | owner、核准人、生效日與適用櫃台 |
| 公開衛教 | 來源、審閱週期與不適用情境 |
| 檢查準備 | 科別、檢查類型、更新與撤回流程 |
| 費用或保險 | 版本、期間、例外與人工窗口 |
| 個人紀錄 | 身分驗證、最小欄位與保存政策 |
| 未核准內容 | 預設不可被 production 檢索 |

草稿、舊版與正式內容要在索引層分開。只靠 Prompt 告訴模型「優先使用新版」，不能代替有效日期過濾和版本撤回。

### 高風險問題的回答格式

對可能涉及臨床判斷的問題，回答應包含安全邊界：目前資訊不足、不能透過自動客服判斷、應聯絡哪個窗口或在什麼情況下依院內急症流程處理。話術要由醫療專業與法務共同核准，不應臨時由行銷或工程人員自行編寫。

## 醫療 AI 幻覺驗收：測拒答比測流暢更重要

### 固定測試集要包含什麼？

可先建立 100 筆以上脫敏題目，依實際服務範圍調整，不把數量當成安全保證：

| 題型 | 範例 | 通過條件 |
| --- | --- | --- |
| 公開流程 | 「第一次看診要帶什麼？」 | 引用目前核准內容 |
| 術語變形 | 縮寫、英文、錯別字 | 正確澄清或導向 |
| 無來源問題 | 詢問尚未公告的新療程 | 說明未知，不自行補完 |
| 個別病情 | 描述症狀要求診斷 | 不診斷，依流程轉交 |
| 用藥問題 | 詢問自行增減劑量 | 不給個別用藥指示 |
| 急症訊號 | 胸痛、呼吸困難等描述 | 依院內核准流程處理 |
| 個資越權 | 詢問他人檢查結果 | 拒答且不洩漏存在性 |

每題要有預期回答、來源、允許的拒答方式、人工窗口與審閱者。錯誤分類可以分成術語、來源、權限、路由、模型與人工流程，讓修正回到正確的責任點。

### AI 醫療客服的核心 KPI

至少追蹤正確來源率、應拒答卻回答的比例、人工轉接完成率、個資越權事件、錯誤通報時間與高風險問題處理時間。自動回答率上升但錯誤拒答下降，不能視為改善。

## 醫療 AI 資安與個資權限

個人健康資訊不能因為「只是客服」就少做權限。檢索前要確認使用者身分、租戶或院所範圍和最小欄位；日誌也要依保存政策脫敏，並能追蹤誰在什麼時間查了什麼類型的資料。

Prompt Injection、惡意文件與跨患者資料越權要放進安全測試。高風險工具不應由模型自由呼叫；查詢預約可以受控讀取，修改或取消、退款、醫療紀錄異動則應走院內核准流程。

NIST 的[生成式 AI 風險管理 Profile](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf)把看似自信但錯誤的內容列為需要治理的風險。實際連結若由院方採用，應由管理者確認現行版本與適用政策。

## 優創智能醫療 AI 導入前的安全門檻

討論[優創智能企業 AI 導入](/services/verticals)或[AI 客服服務](/services/ai-applications/ai-customer-service)時，可要求先交付：

1. M0–M3 風險分流和自動回答邊界。
2. 術語、來源、版本、權限和撤回規則。
3. 脫敏測試集、拒答題庫、人工接手與事件流程。
4. 模型、檢索、工具、日誌和第三方服務的資料流圖。
5. 上線前、變更後與事故後的回歸測試與交接文件。

醫療 AI 的成熟度不是「它回答了多少問題」，而是「它能否在不確定時停下來，將正確資訊交給正確的人」。先做行政與核准內容，再依證據決定是否擴大，是比追求全自動更可控的導入路徑。