比誤診更難的是：AI 先說出了病人想相信的答案

根本差異在於「答案的形態」。 搜尋引擎回傳的是一份候選清單，要求使用者主動篩選；生成式 AI 回傳的是一個語意完整的敘述，已經幫使用者做完了組裝與詮釋。

傳統「病人查網路」的問題是資訊品質不穩定——可能查到錯的、過時的、來源不可靠的東西。臨床工作者面對這類挑戰，基本策略是釐清來源、比對證據、幫病人建立資訊識讀能力。

但生成式 AI 帶來的問題結構不同。當病人輸入「我的右下腹痛了三天，按壓時會痛，這是什麼問題？」時，AI 不會列出一堆連結讓他自己去讀，而是直接給出一段回覆：解釋可能的原因、描述各種可能性的嚴重程度、最後通常附上「若症狀加重請就醫」的提醒。這段回覆在語言層面是連貫的，在結構上是有說服力的，在語氣上通常讓人放心。

這段答案的品質，會高度取決於問法本身。 如果病人問的是「我的腹痛很可能是腸胃炎吧？」，AI 的回答就很可能從腸胃炎的角度展開；如果病人問的是「我不想動手術，有其他方式可以處理嗎？」，AI 的回覆走向又會不一樣。

這不是 AI「刻意誤導」，而是生成式 AI 的工作邏輯：優先回應問題的框架，而不是優先定義問題的框架是否正確。

這個差異，讓「查網路」和「問 AI」的挑戰從「資訊品質問題」升級成了「問題定義問題」。

這是訓練目標與優化方向共同造成的結果，而不是 bug。 大型語言模型訓練過程中，人類回饋強化學習（RLHF）會讓模型傾向產出被評分者評為「好的回應」的答案；而在自然語言情境中，「令人滿意」和「令人安心」的回答往往得到比較高的評分。

這種現象，研究領域稱之為「諂媚性」（sycophancy，即模型傾向順應使用者偏好而非提供客觀評估）——不是隨機偶發，而是由訓練目標驅動的系統性傾向。

是的，難度不同。 當病人帶著搜尋結果進來，那份資訊在他心裡的地位通常是「可能性之一」；當病人帶著 AI 的回覆進來，那份資訊往往已被他內化為「對我的情況的解釋」。這個差別決定了後續溝通的起點完全不同。

從心理機制來看，「被驗證的錯誤判斷」之所以難以動搖，有幾個原因：

AI 回應讓病人覺得它真的「理解了他的問題」。 搜尋結果是通用的，每個人看到同一篇文章。但 AI 的回覆是針對他的問法組裝出來的，在使用者感受上是「個人化的」。這種個人化感受會強化對回覆的信任感。

AI 的回覆結構通常模擬「有道理的推理過程」。 它不只給結論，還會解釋為什麼。這讓病人讀完後，感覺自己「理解了自己的狀況」，而不只是「拿到了一個答案」。「理解感」會讓人更不願意放棄既有判斷，因為放棄判斷等同於放棄「我以為我理解了」這件事。

矯正 AI 的說法，在社交互動上的成本比矯正網路文章更高。 病人在診間的感受常常是：「我把我查到的帶來跟你分享，你卻否定它」，這在某些情況下等同於否定了他看診前做的準備，也可能觸碰到他背後的焦慮或期待。

核心策略是「重設問題」，而不是「否定答案」。 直接說「AI 說的不對」，會讓溝通陷入「你信誰」的對立框架；把焦點移回「我們先一起定義你的狀況是什麼」，更有機會讓病人重新進入開放評估的狀態。

不要把病人的 AI 回覆當成對立方來處理。 直接說「AI 不是醫生」，雖然字面上正確，但對病人而言容易被解讀為「你的準備功課被否定了」。比較有效的方式是承認 AI 提供了一個角度，然後把問診引導回「讓我們看看你的狀況有沒有特別的地方」。

把焦點放在「你的症狀的具體細節」，而不是「AI 說的對不對」。 症狀的時間軸、伴隨症狀、變化趨勢——這些是 AI 無法從使用者一段描述中完整掌握的。把問診導向這些細節，本身就在建立一個「你的狀況需要個別評估」的框架。

根本原因是設計目標和使用情境之間的錯位，而不是技術本身的缺陷。 通用型生成式 AI 的設計目標是「讓更多人在更多情境下有用」，這個目標讓系統傾向讓使用者感到被服務、被理解；但健康決策情境需要的，是在必要時提供「讓人不舒服但正確」的判斷，兩者之間存在內在矛盾。

這個問題要從三個層次來看：

訓練目標的層次：現有通用語言模型的訓練過程優化的是「使用者滿意度」，而不是「使用者健康結果」。對特定使用情境的優化缺位，就會讓系統用一個不對齊的目標函數來服務一個高風險情境。

介面設計的層次：大多數生成式 AI 的介面，沒有針對健康資訊情境設計「不確定性揭示機制」。正確的健康資訊傳遞，需要明確說明「這個說法的證據基礎是什麼」「什麼情況下這個說法不適用」「應該在什麼條件下尋求專業評估」——這些在通用 AI 介面中幾乎不存在，或存在但被忽略。

使用者心理模型的層次：使用者對 AI 的心理模型，有很大一部分由科幻作品和廣告塑造——「AI 知道一切、AI 很準確」。這個錯誤的心理模型，讓使用者對 AI 的答案給予超過應有的信任。

三個層次疊加，造成了現在這個問題的形態：不是 AI 說了謊，而是整個系統的設計，讓不確定的答案，在最容易影響健康決策的情境下，以最有說服力的方式被呈現出來。

沒有一個萬用解方，但有幾個設計方向可以降低這類風險的發生機率。 重點不是「功能加更多」，而是讓系統在最關鍵的決策節點，主動增加使用者對不確定性的認知。

主動揭示不確定性，而不只是附上「請就醫」。 「請就醫」已經變成一個被忽略的標準免責聲明。更有效的設計是在回覆中明確說明：「這個回答是基於你描述的症狀，但有哪些資訊是 AI 無法評估的（例如：體溫、理學檢查結果、完整病史）」，讓使用者看到答案的邊界條件。

設計「問題重框機制」，而不只是給答案。 如果使用者的問法帶有強烈預設（「應該只是壓力吧？」），設計上可以優先把問題重框——「讓我先確認一下你的症狀組合」——而不是直接從使用者設定的框架展開回覆。

區分「資訊型查詢」和「決策型查詢」，給予不同的介面回應。 「高血壓的正常數值是多少」是資訊型；「我的血壓 150/95 要怎麼辦」是決策型。後者需要的不是更完整的資訊，而是引導使用者理解「這個問題需要個別評估」。

從監管角度，目前較有共識的方向包括：WHO 在 2021 年發布的《Ethics and governance of artificial intelligence for health》報告中，明確指出 AI 健康應用需要透明度要求和人類監督機制；歐盟 AI 法案（EU AI Act）將涉及重要健康決策的 AI 系統列為高風險類別；美國 FDA 的 AI/ML 行動計畫也持續強調「預期用途」（intended use）的重要性，開發者不能以通用工具的標準，規避針對醫療用途的責任設計。

核心不是禁止或排斥，而是系統層面的流程設計回應。 生成式 AI 不會消失，病人在就醫前使用 AI 問健康問題已是普遍現實。把這件事定義成「壞事」，是一個不現實的出發點。真正要設計的，是讓 AI 的介入成為診間溝通可以有效整合的訊號，而不是障礙。

這需要的不只是個別臨床工作者的溝通技巧，也需要系統層面的設計回應：包括醫療機構如何建立「AI 輔助準備的病人」的溝通流程、如何在問診前段就識別出哪些病人帶著強烈的先入判斷、以及如何在醫病關係中建立「AI 是工具、不是裁判」的共識框架。

比誤診更難的，從來不是技術問題。是在病人已經相信某件事的情況下，如何讓一個有更完整資訊的人，有機會提供更好的判斷。