衛生福利部資訊處 李建璋 

人工智慧的快速發展，正在徹底改變數位醫療的樣貌。目前人工智慧在法規上被歸類為“智慧醫材“進行管理，但事實上，人工智慧與傳統醫材的管理方式有很大的不同。最大的差異在於，人工智慧除了必須符合醫材安全與效能的要求之外，更面臨使用倫理框架的挑戰。 

國際WHO 或是NIST相關指引，或台灣的《人工智慧基本法草案》，都已經明確指出人工智慧的使用七大倫理原則， 包含自主，透明，當責，安全，公平，隱私，永續，然而，這七大倫理原則究竟應該如何具體落實，目前世界各國仍然沒有一致的做法。 

現行由食藥署核發的智慧醫材許可證，基本上完成的是產品上市前安全性、有效性與準確性的驗證，但當人工智慧真正部署到各家醫院臨床使用時，卻無法確保這些倫理原則能夠在實際使用過程中被持續遵守。因此，如何建立一套臨床落地後的治理架構，便成為推動「負責任 AI 中心（Responsible AI Center）」最重要的核心目標之一。美國與歐洲醫學中心也自主發起TRAIN（Trusted and Responsible AI Network）聯盟，自訂醫院層級管理規範，與台灣設立負責任AI中心目標一致。 

負責任 AI 中心的目的，是提供一套完整可操作的管理框架，協助各家醫院在導入智慧醫材時，透過系統性的管理流程來實踐七大倫理原則。目前這套管理機制主要聚焦於傳統判別式 AI（Discriminative AI），也就是目前臨床最廣泛使用的人工智慧，包括利用機器學習進行疾病或風險預測的工具，以及利用電腦視覺技術進行醫學影像判讀的人工智慧。至於生成式 AI，由於其特性與風險管理方式有所不同，目前尚未納入這套框架，未來將規劃推出生成式 AI 沙盒（Sandbox），協助各大醫院建立相應的治理與管理機制。 

目前負責任 AI 中心主要針對臨床最廣泛使用的風險分類工具與醫學影像 AI 軟體，要求醫院建立完整且系統化的管理制度，其中包含三項最重要的核心任務。 

第一項任務，是成立獨立的院層級智慧醫療管理委員會。每一項即將在醫院落地使用的人工智慧系統，都必須先經過委員會的申請、審查、核准以及後續追蹤管理。委員會首先必須確認該智慧醫材是否符合資訊安全與個人資料保護相關規範；若使用雲端服務，也必須確認是否符合主權雲的相關要求。除此之外，委員會還必須審查人工智慧是否符合醫院整體的倫理治理架構，確保 AI 的導入能夠兼顧病人安全、資料保護及醫療品質。 

第二項任務，是要求所有臨床使用的 AI 工具，在醫師操作介面上都必須提供符合九大透明性原則（Transparency Principles）的完整說明，讓醫師與使用者能夠充分了解這項人工智慧的訓練資料來源、模型驗證方式、模型效能、適應症、適用族群、使用限制、超出適應症使用時的注意事項，以及模型未來更新與維護計畫等重要資訊。 

除了透明性之外，人工智慧也必須提供足夠的可解釋性（Explainability）。這一點對臨床醫師而言尤其重要，因為人工智慧經常能夠發現人類肉眼無法察覺的模式，進而提出醫師過去未曾注意到的判斷結果。如果 AI 只提供一個疾病診斷或風險分數，而沒有說明其判斷依據與推論過程，醫師便無法依據自身的醫學專業訓練判斷是否接受、修正或拒絕 AI 的建議，也無法真正承擔臨床決策的責任。因此，可解釋性分析與透明性指標，不僅是協助醫師進行臨床判斷的重要依據，也是建立醫療 AI 當責（Accountability）機制最關鍵的核心。我們不希望 AI 對臨床醫師輸出的結果，只是單純告知疾病診斷或風險高低，而沒有完整呈現判斷過程、推論依據以及主要影響因素。 

第三項任務，是建立 AI 的生命週期管理（AI Lifecycle Management）。人工智慧對資料極為敏感，即使不同醫院間只有些微的資料分布差異，也可能導致模型效能大幅下降。因此，每一套 AI 在正式部署到醫院之前，都必須先完成院內的本地驗證（Local Validation），確認模型在該院的病人族群仍具有足夠的準確性。 

此外，由於 AI 是利用歷史資料訓練而成，隨著時間推移、醫療技術進步、疾病型態改變或病人組成變化，都可能導致模型產生模型飄移（Model Drift），造成原本良好的模型逐漸失去準確性。因此，醫院必須定期重新驗證模型效能，由院內管理委員會與 AI 公司共同合作，持續監測模型表現、重新校正與更新模型，確保整個 AI 在生命週期內都維持足夠的準確性與安全性。這也是我們所強調的 AI 全生命週期管理。 

由於每一項臨床 AI 的九大透明性指標撰寫、生命週期管理以及上市後監測，都需要相當專業的知識，同時也需要投入大量的人力與管理成本，因此衛福部資訊處特別開發了一套專業的負責任 AI 管理網站，希望協助各家醫院降低導入門檻，並透過中心醫院分享最佳管理實務，建立全國一致的管理模式。 

這套網站提供多項重要工具。首先，若人工智慧產品已取得食藥署核准，上傳食藥署的申請書和報告，系統便可透過生成式 AI 協助，自動產生九大透明性指標的初步內容，再由各醫院的管理委員會依據實際情況進行修訂與補充，即可快速完成符合標準的透明性說明文件。 

第二項功能則是 AI 生命週期管理工具。醫院在完成 AI 登錄時，即可同時設定模型定期驗證與重新評估的時程，當生命週期管理期限即將到達時，系統會自動通知相關管理人員，提醒進行模型效能驗證與必要的更新。由於人工智慧屬於上市後持續監測（Post-market Surveillance）的管理模式，每一項 AI 都必須依照不同應用情境，採取不同的專業管理方式，因此整個管理過程具有高度的個案性（Case by Case）。 

為了協助各醫院建立完善的管理制度，網站也邀請智慧醫療領域專家共同參與。我們本期委託長庚智慧醫療中心裴育晟教授率領專業團隊，針對每一項登錄的 AI 產品，從專業角度提供九大透明性內容撰寫、生命週期管理重點以及最佳治理方向的建議，協助各醫院逐步建立完善的負責任 AI 管理制度。 

透過這套完整的治理框架、管理工具與專家輔導機制，希望協助全國醫院真正落實負責任 AI，使人工智慧能夠在安全、倫理、透明與可當責的框架下投入臨床應用，讓醫師可以安心使用 AI 輔助臨床決策，也讓病人能夠在值得信賴的環境中享受人工智慧所帶來的醫療效益。