趨勢科技旗下TrendAI發表最新研究報告「風險處方箋: AI醫療的資安隱患」,對AI醫療的導入速度已超越既有治理能力提出警示。隨著醫療機構運用生成式AI撰寫病歷、回覆病患訊息及處理保險核准申請,當AI產出的內容或決策未經明確的人工審核,卻被納入正式病歷或照護流程,可能形成責任與審核缺口,將使得錯誤資訊被視為醫療事實,影響後續病患照護。
TrendAI研究團隊指出,僅依靠AI代理程式而缺少人員檢視的「責任斷層」(Custody Gap)導致的風險,從診間、術後追蹤電話、居家照護,到行政與保險作業中的每一個環節都可能發生。AI可能會受到惡意指令操控,或是在沒有外在攻擊者介入的情況下,產生虛構內容、低估病情急迫性,甚至是在後續流程中反覆引用既有的錯誤資訊。如果醫療機構只著重於防範外部攻擊,就可能會忽略AI自動產出及自動執行流程所帶來的風險。
TrendAI揭露AI醫療風險,AI虛構或介入產生的內容恐成照護隱憂
|
研究報告中引述加拿大安大略省審計長辦公室2026年5月發布的審計結果,指出省政府核准的20款AI診療紀錄工具皆出現內容錯誤,其中12款記錄錯誤藥物、17款遺漏重要心理健康資訊,9款產生診療過程中從未討論的轉診或檢查安排。還有工具在未提及腫塊的診療對話中,寫出「未發現腫塊」的紀錄註一。
TrendAI指出,如果AI代理程式產生的虛構內容未被醫師發現,後續AI代理工具又以這些病歷作為參考,錯誤就可能被反覆引用,最終被當成真實病史。此外,攻擊者也可能透過「提示注入(prompt injection)」,將惡意指令藏在轉診資料、病患訊息或醫療影像中,操控誘使AI代理程式偏離原本任務而產生幻覺內容。報告引用2025年《JAMA Network Open》的一項研究指出,在該研究的醫療建議模型測試中,提示注入攻擊成功率達94.4%註二,凸顯醫療AI除了須確保內容正確,也須防範外部資料被用來操控產出。
醫療機構運用AI語音代理進行術後追蹤、用藥確認與居家照護時,如果系統沒有將需要進一步處理的病況轉交真人,可能會延誤醫療團隊的介入。對此,TrendAI也提醒,病患在逐漸習慣與自動化照護語音互動後,詐騙者可能仿冒可信任的聲音,誘使病患提供個人機敏資料或健康資訊,一旦通話錄音外洩,就可能成為有心人士詐騙的素材。
連接AI代理與醫療資料的工具層,同樣存在安全隱患。TrendAI研究團隊先前發現,缺乏身分驗證與加密的外曝MCP伺服器,從2025年7月的492個註三增加到2026年4月的1,467個,其中至少3個註四是提供可讀取病患醫療紀錄的工具。這類既有的系統設定與存取控制問題,可能會隨AI串接更多資料與工作流程,增加病患資訊暴露風險。
TrendAI建議,醫療機構應明確指定人員負責審核AI產生並可能影響患者照護或保險給付的內容,並要求AI生成的診療紀錄經醫師確認及簽核後,才能納入正式病歷。機構也應明訂哪些事項不能由AI自行決定,包括判斷患者是否適合接受某項治療、是否需要轉交真人回應處理等。此外,醫療機構應在完成告知與同意程序後,依照適用規範保存原始音檔、逐字稿、提示及模型版本,以便回溯與核對AI產出的內容。

