【衛生福利部《2026臨床 AI 取證驗證中心國際研討會》系列文章1】
Adam Dunn
Sydney School of Public Health, Faculty of Medicine and Health,
The University of Sydney
雪梨大學 醫學與健康學部 雪梨公共衛生學院 (演講者)
次世代數位醫療平台專案辦公室整理
準確率之外:Adam Dunn 談臨床 AI 的真正考驗
雪梨大學公共衛生學院教授、同時身兼《npj Digital Medicine》副主編的 Adam Dunn,在開場時便以其長達二十三年的電腦科學教學與研究背景切入,直指當前醫療 AI 發展的核心盲點:AI 能否在臨床實際落地,關鍵不在於演算法有多聰明,而在於它是否能真正融入真實的工作流程、契合在地族群的特性,並讓臨床人員與病人用得順手。
論文指標與真實臨床落差:從「準確」到「有效」的鴻溝
Dunn 指出,醫學領域中關於 AI 的論文雖有數以千計,真正能夠進入醫院日常部署的卻寥寥無幾。這背後的核心原因在於:證明一個模型「有效」(Effective)遠比證明它「準確」(Accurate)困難得多。許多模型在實驗室或論文中表現亮眼,例如 F1 分數達到 0.87、AUC 甚至高達 0.93,但這些亮麗的數字卻無法告訴我們模型上線後會產生什麼後續問題。這是因為模型在真實環境中常面臨安全隱患、族群公平性不足及非預期後果等問題,而這些風險的根源,往往就是模型與當地的病人族群或實際臨床作業流程不夠契合。
病人端 AI 語言模型的四大評估維度
為了更系統化地檢視現況,Dunn 引用其學生團隊尚未發表的範圍性回顧(Scoping review)指出,在超過 750 篇針對病人端 AI 語言模型的評估研究中,絕大多數僅著重於「事實與臨床準確性」,卻極少去審視模型是否會造成實際傷害。他將臨床 AI 應關注的面向拆解為四大關鍵維度:
1.準確與可靠性(Accuracy and reliability)
包含事實與臨床準確性、內容是否含有幻覺(Hallucination),以及是否有足夠的來源依據(Source grounding)。
2.傷害迴避(Harm avoidance)
包含是否給予不當安撫或不安全的自我處置指引、能否敏銳偵測紅旗徵兆或急症症狀,以及是否存在急迫性誤判。
3.透明與溝通(Transparency and communication)
包含是否提供使用者看得懂的回應生成解釋、升級(Escalation)理由,以及明確的來源歸屬。
4.監督與問責(Oversight and accountability)
包含輸出層級的安全控制機制、系統的可審計性或可追蹤性,以及結構化的轉介與升級途徑。 然而,他也坦言,在多數研究中,要落實「傷害迴避」與「問責機制」往往窒礙難行,因為這需要耗費極大的心力去建立相關評估標準。
兩條技術發展脈絡:從「綠色按鈕」到「互動式合成病人」

為了克服上述落差,Dunn 梳理並串聯了兩條重要的技術發展脈絡。這兩大脈落分別對應資料與決策輔助面向以及流程模擬與代理人面向。
第一條脈絡源自 2015 年前後史丹佛大學發展的「綠色按鈕」(Green Button)概念——讓臨床醫師在面對眼前的病人時,能一鍵按出過去相似病人的診療經驗來輔助決策。這個概念隨後擴展至合成病人資料(Synthetic patient data)以及透過電子病歷(EHR)訓練的病人基礎模型。合成資料能在降低隱私與再識別風險的前提下,打破數據孤島並擴大跨機構分享。至於近年常被討論的「數位孿生」(Digital twins),他認為其實質上也不過是綠色按鈕概念的延伸。

第二條脈絡從 1966 年經典的 ELIZA 對話程式出發,一路演進到現代的醫院流程代理人模擬(Agent-based modelling)。他曾於《JAMIA》發表研究,展示如何花費數週甚至數月重建單一的住院病人轉送流程,精準對應並模擬轉送過程中的辨識錯誤風險。

當上述兩條脈絡匯流,Dunn 提出了最具前瞻性的構想——「互動式合成病人」(Interactive synthetic patients)。其核心作法是利用在地電子病歷生成能代表當地族群特性的模擬病人,將其轉化為具備行為能力的「代理人」(Agents),讓這些合成代理人與臨床 AI 系統進行互動,藉此在部署前或上線後持續觀察 AI 在真實複雜工作流程中的表現,作為確保病人安全的「安全護具」。然而他也坦言,現有文獻中尚未有人將這套作法全面應用於真實世界的病人場景,而這項創新高度依賴底層的資料共享與聯邦學習(Federated learning)基礎建設;他認為,臺灣在醫療資訊化與資料整合上的條件,正好具備發展這類基礎建設的絕佳優勢。
演講尾聲,在 Q&A 環節中,有聽眾問到澳洲禁止十六歲以下青少年使用社群媒體,臺灣是否該跟進。Dunn的回答則相當保留,他認為目前沒有證據顯示禁令成效是好是壞,這類禁令對有心繞過的人效果有限,而且對心理健康是有益、有害或兼而有之,仍待觀察。另一位聽眾則問導入 AI 最大的挑戰,他也回到演講主軸:太多系統在開發時沒有想過實際怎麼用,必須與臨床人員和病人共同設計,而這類評估本來就困難,在沒有基礎建設的地方更是如此。