提高臨床應用的透明度與效率，增進公眾對於AI技術在醫療領域應用的信任與接受度

成立目標

隨著人工智慧（AI）技術快速發展，其在醫療領域的應用已從疾病診斷、風險預測、醫學影像判讀，進一步擴展至醫療文書撰寫，顯著減少醫護人員的病歷撰寫時間。

然而，AI應用並非毫無風險，如何確保其自主性、當責性、隱私、透明、安全、公平與永續，已成為國際關注的議題。世界衛生組織（WHO）及台灣《人工智慧基本法》草案均強調，若缺乏適當引導，AI可能引發倫理與監管挑戰。

為解決此問題，衛福部資訊李建璋處長推出「負責任AI中心」，研擬出一套符合七大倫理價值的AI應用指引，期望在智慧醫療的發展的同時，確保倫理與安全。

圖1、AI 在醫療應用缺乏監管下的七大倫理危機

核心策略

符合資安與隱私保護原則的管理辦法

• 進行適當之隱私保護

在AI應用涉及個人資料的情境下，醫療機構應落實隱私保護管理機制，建議可依循美國《健康保險可攜性與責任法案》（HIPAA）或歐盟《通用資料保護條例》（GDPR）之原則，移除可識別的個資項目，或進行適當的資料加密處理，以降低識別與外洩風險。此外，應明確規範資料的儲存地點與保存期限、外部管理人員的存取權限，並建立定期查核機制以確保制度落實。針對需上傳至院外雲端執行AI推論的應用程式，則須採取更高等級的保護措施，並制定完善的個資外洩應變計畫，以確保資料在跨機構或異地傳輸過程中亦能維持高度安全性與合規性。

• 保障資訊安全

在AI應用需上傳至院外雲端或由第三方管理的情境下，醫療機構應落實資訊安全防護機制，以降低系統被入侵或資料遭濫用的風險。建議採取多層次的網路安全措施，包括設置防火牆與入侵偵測／防護系統（IDS/IPS），以防止未授權存取；透過網路分割，限制對關鍵系統與敏感資料的存取範圍；並使用自動化掃描工具定期檢查潛在弱點。此外，應明確規範外部管理人員的權限與責任，並建立定期查核機制，以確保資訊安全政策能在日常營運中持續執行與優化。

圖2、負責任AI落地管理三大策略 - 資安維護及隱私保護

透明性原則與可解釋性分析

• 透明性原則

可運用九大透明性原則之架構說明，確保所有使用AI工具的醫院必須在一個專門的網站上公開重要資訊，包括AI的資料來源、訓練模型、驗證資料、適用的臨床情境、以及FDA或其他醫學審核機構的驗證結果等。

• 可解釋性分析

運用可解釋性分析，解釋和理解人工智慧模型如何做出預測或決策的技術和方法，在醫療領域至關重要，可提供對人工智慧系統決策過程的洞見，確保臨床醫師能夠理解和驗證其輸出結果，常見的解釋性分析方法，以SHAP值（SHapley Additive Explanations）和顯著性圖（Saliency Maps）為例。

圖3、負責任AI落地管理三大策略 - 九大透明性原則及可解釋性分析

遵循AI生命週期循環監測有效性

臨床醫學的應用涉及到對AI系統在整個生命週期中的有效性進行持續監測和評估，這一過程不僅包括AI系統的開發和部署階段，還涵蓋了後續的運行、維護和改進。透過實施定期的性能監測計畫，例如每半年到一年進行一次獨立樣本的性能驗證，確保了AI系統在實際臨床環境中的表現能夠持續符合預期，並且能夠適應隨時間變化的醫療需求和資料特性。

一是有效性監測，包括對AI系統的性能進行定期評估，以確保它在處理臨床問題時能夠保持準確性、可靠性和公平性。以檢測乳癌的AI影像診斷系統為例，開發階段可能經過了廣泛的影像資料訓練，在實際臨床環境部署後，需要持續監測其有效性；二是再訓練和調整，隨著新的乳房攝影影像資料加入，對模型進行再訓練，以保持高準確率，也包括對模型偏差的檢查和修正，檢查AI系統的診斷結果是否與專家放射科醫師的診斷結果一致，以確保系統的可靠性，收集臨床醫師和放射科醫師的反饋，並根據實際使用中的問題進行系統改進。

圖4、負責任AI落地管理三大策略 - AI生命週期管理機制

未來展望

衛福部資訊處積極推動具前瞻性與創新價值之智慧醫療監管模式，113年度於北、中、南補助十家醫院試行，涵蓋醫學中心、區域醫院及地區醫院，確保AI技術普惠不同層級的醫療機構。

試行計畫歷時六個月，期間負責任AI中心成立輔導小組，定期訪視醫院，提供專業輔導，協助制定透明性與可解釋性分析機制，並建立AI生命週期管理制度。為提升公眾信任，負責任AI中心要求各醫院公開相關規範、申請窗口及成功案例，確保民眾能夠瞭解醫院內AI應用的情況及其對診斷與治療的影響。

未來，負責任AI中心將持續推動相關經驗與成功案例的國際交流，期望為全球AI醫療應用提供可借鑑的範例。

圖5、全臺成功落地十大示範醫院負責任AI執行中心

洽案及諮詢窗口

計畫團隊與顧問

規劃者

李建璋

衛生福利部資訊處 處長
台灣大學醫學院急診醫學科 臨床教授
台大智慧醫療中心 顧問

致謝

我們誠摯感謝召集人、同時也是台大醫院院長的吳明賢院長，及兩位國際知名專家──來自美國麻薩諸塞州波士頓的哈佛大學小兒科與生物醫學資訊學教授，並擔任波士頓兒童醫院計算健康資訊學計畫主任的 Kenneth Mandl 博士，以及來擔任微軟全球首席醫療官暨醫療保健副總裁的 David Rhew 博士──在我們推動負責任的人工智慧於醫療領域應用的計畫中，所提供的寶貴專業指導與貢獻。

吳明賢

負責任AI執行中心 召集人
臺大醫院 院長
臺大醫學院內科特聘教授
臺灣醫學會理事長
臺灣內科醫學會秘書長

Kenneth Mandl, MD, MPH

美國哈佛大學

小兒科與生物醫學資訊學Donald A.B. Lindberg 講座教授
兼任波士頓兒童醫院計算健康資訊學計畫主任

David Rhew, MD

美國微軟公司
全球首席醫療官（CMO）
暨醫療保健副總裁