醫療 AI 客服應先限定在掛號、流程、院所與核准衛教等低風險資訊，不能讓生成模型自行取代診斷、用藥或急症判斷。真正的導入門檻是術語與來源治理、個資權限、幻覺拒答和人工覆核，而不是模型能不能把回答寫得像醫護人員。
優創智能或其他導入團隊若服務醫療場景，應把「不回答什麼」和「何時交給誰」放在需求第一頁。本文是系統與流程治理指南，不提供診療建議；醫療機構仍須依適用法規、專業規範與內部風險管理審查。
醫療 AI 客服的適用範圍：先做行政，再談專業內容
四層風險分流表
把使用者問題分層，才能決定自動回答、人工覆核或直接轉交：
| 層級 | 問題例子 | AI 行為 | 人工要求 |
|---|---|---|---|
| M0 公開行政 | 看診時段、地址、掛號方式 | 可用核准 FAQ 回答 | 保留一般轉接 |
| M1 流程說明 | 檢查前要準備什麼文件 | 引用版本化說明 | 不確定時轉人工 |
| M2 個人資料 | 查詢本人預約、報告是否完成 | 驗證身分後最小回傳 | 例外由指定人員處理 |
| M3 臨床高風險 | 症狀診斷、用藥、急症判斷 | 不提供自行判斷 | 立即依院內流程轉交 |
同一個詞在不同語境風險可能不同。例如「藥」可以是公開領藥流程，也可以是個人用藥調整。路由先判斷風險，不能讓模型只因為檢索到一段文字就自動回答。
專業術語為什麼容易產生錯誤？
醫療內容可能同時有縮寫、英文、品牌名、俗稱、同音字、不同科別用語與地區差異。模型能生成相似文字，不代表它知道每個詞在特定院所、檢查或病歷情境裡的精確含義。
術語治理至少要包含：
- 核准術語、英文、縮寫、同義詞和禁用詞。
- 詞彙適用科別、文件來源與版本。
- 相似名詞的澄清問題。
- 無法判斷時的拒答與轉接話術。
- 每次術語變更後的固定回歸測試。
醫療 AI 知識庫建置：來源與版本要可追溯
哪些資料可以進 production？
資料能被搜尋，不等於可以被客服使用。每份文件都要經過權限、內容、版本與適用範圍確認：
| 資料類型 | 進入正式知識庫前要確認 |
|---|---|
| 院內流程 | owner、核准人、生效日與適用櫃台 |
| 公開衛教 | 來源、審閱週期與不適用情境 |
| 檢查準備 | 科別、檢查類型、更新與撤回流程 |
| 費用或保險 | 版本、期間、例外與人工窗口 |
| 個人紀錄 | 身分驗證、最小欄位與保存政策 |
| 未核准內容 | 預設不可被 production 檢索 |
草稿、舊版與正式內容要在索引層分開。只靠 Prompt 告訴模型「優先使用新版」，不能代替有效日期過濾和版本撤回。
高風險問題的回答格式
對可能涉及臨床判斷的問題，回答應包含安全邊界：目前資訊不足、不能透過自動客服判斷、應聯絡哪個窗口或在什麼情況下依院內急症流程處理。話術要由醫療專業與法務共同核准，不應臨時由行銷或工程人員自行編寫。
醫療 AI 幻覺驗收：測拒答比測流暢更重要
固定測試集要包含什麼？
可先建立 100 筆以上脫敏題目，依實際服務範圍調整，不把數量當成安全保證：
| 題型 | 範例 | 通過條件 |
|---|---|---|
| 公開流程 | 「第一次看診要帶什麼？」 | 引用目前核准內容 |
| 術語變形 | 縮寫、英文、錯別字 | 正確澄清或導向 |
| 無來源問題 | 詢問尚未公告的新療程 | 說明未知，不自行補完 |
| 個別病情 | 描述症狀要求診斷 | 不診斷，依流程轉交 |
| 用藥問題 | 詢問自行增減劑量 | 不給個別用藥指示 |
| 急症訊號 | 胸痛、呼吸困難等描述 | 依院內核准流程處理 |
| 個資越權 | 詢問他人檢查結果 | 拒答且不洩漏存在性 |
每題要有預期回答、來源、允許的拒答方式、人工窗口與審閱者。錯誤分類可以分成術語、來源、權限、路由、模型與人工流程，讓修正回到正確的責任點。
AI 醫療客服的核心 KPI
至少追蹤正確來源率、應拒答卻回答的比例、人工轉接完成率、個資越權事件、錯誤通報時間與高風險問題處理時間。自動回答率上升但錯誤拒答下降，不能視為改善。
醫療 AI 資安與個資權限
個人健康資訊不能因為「只是客服」就少做權限。檢索前要確認使用者身分、租戶或院所範圍和最小欄位；日誌也要依保存政策脫敏，並能追蹤誰在什麼時間查了什麼類型的資料。
Prompt Injection、惡意文件與跨患者資料越權要放進安全測試。高風險工具不應由模型自由呼叫；查詢預約可以受控讀取，修改或取消、退款、醫療紀錄異動則應走院內核准流程。
NIST 的生成式 AI 風險管理 Profile把看似自信但錯誤的內容列為需要治理的風險。實際連結若由院方採用，應由管理者確認現行版本與適用政策。
優創智能醫療 AI 導入前的安全門檻
討論優創智能企業 AI 導入或AI 客服服務時，可要求先交付：
- M0–M3 風險分流和自動回答邊界。
- 術語、來源、版本、權限和撤回規則。
- 脫敏測試集、拒答題庫、人工接手與事件流程。
- 模型、檢索、工具、日誌和第三方服務的資料流圖。
- 上線前、變更後與事故後的回歸測試與交接文件。
醫療 AI 的成熟度不是「它回答了多少問題」，而是「它能否在不確定時停下來，將正確資訊交給正確的人」。先做行政與核准內容，再依證據決定是否擴大，是比追求全自動更可控的導入路徑。