醫療AI工具可能犯下危險錯誤政府能否幫助防範？——《華爾街日報》

醫生在接診時無需再手動記錄病歷，因為人工智能系統會全程聆聽並自動抓取患者症狀等信息。圖片來源：Doug Barrett/華爾街日報醫生們已開始以創新方式運用人工智能與患者溝通並輔助診斷。當前政府正全力制定規範，確保這些技術不會造成危害。

聯邦監管機構正為醫療AI應用程序設計新的標籤體系，旨在幫助臨牀醫生更易識別這些工具的缺陷與不足。拜登政府提議，此類應用需配備"營養標籤"，明確披露其訓練方式、性能表現、適用場景及禁忌範圍。

這項可能於年底前定案的標籤規定，標誌着華盛頓首次對人工智能實施新安全要求的具體嘗試。醫療科技企業紛紛提出異議，認為該規定可能泄露商業機密並損害競爭，反映出政府監管快速迭代的AI系統面臨巨大挑戰。

人工智能已深度滲透醫療體系。接診醫生可告別傳統筆錄，因為AI系統能即時聆聽並智能抓取患者症狀等信息。AI還能分析健康檔案，通過海量病例對比，為診斷或檢測方案提供建議。

但臨牀AI工具也可能存在缺陷。一些病歷記錄技術被發現生成的報告錯誤百出，既未使用正確醫學術語，又添加了患者並未服用的藥物。這些工具還可能基於患者種族或收入水平做出不公正預測，加劇健康不平等現象。部分醫院曾依賴AI驅動工具，但後續研究表明這些系統訓練數據有限，影響了其精確性。

專攻電子健康檔案、雲託管等技術服務的Altera Digital Health政府事務副總裁Leigh Burchell表示：“用於訓練AI的數據並不總是涵蓋所有患者類型。”

拜登政府要求由科技巨頭（包括Alphabet旗下谷歌、亞馬遜和甲骨文）及眾多初創企業開發的醫療軟件必須提高信息披露透明度。

美國衞生與公眾服務部健康記錄技術認證部門負責人Micky Tripathi指出：“這是對系統用户的透明度要求。當前由於黑箱特性，這些工具正遭遇使用阻力。”

透明度原則獲得科技公司和醫療系統管理者的廣泛支持。但許多人士認為營養標籤式披露提案過於嚴苛，可能抑制行業投資。

坦帕綜合醫院首席數字與創新官斯科特·阿諾德表示：“食品標籤的理念是合理的。但我認為如果走得太遠，會給醫療服務提供者、臨牀醫生和護理人員帶來更多負擔或壓力。這反而會適得其反。”

這項營養標籤提案由美國衞生與公眾服務部下屬的國家衞生信息技術協調員辦公室（ONC）於4月發佈。這個鮮為人知的部門負責認證電子健康記錄軟件。由於醫院和醫生在採購前通常需要獲得該機構認證，ONC的認證要求實際上發揮着行業監管作用。

根據提案，AI系統的"營養標籤"需展示模型的訓練測試方法、預期用途及"有效性與公平性"指標。該機構未強制規定標籤形式，僅要求通過ONC認證軟件向醫生、醫院管理人員等清晰展示這些信息。

AI開發商可以選擇不披露任何信息。但臨牀醫生也會看到這一選擇。“我們確實認為空白字段本身就能傳遞重要信息，“ONC負責人特里帕西表示。

為證明新標籤的必要性，ONC列舉了廣泛使用的AI系統存在問題證據。

例如2019年研究人員發現，醫院用於預測患者是否需要額外護理協助的算法存在種族偏見。該算法本應識別需要複雜治療方案的患者，卻學會了標記醫療成本更高的羣體。由於歷史上黑人患者支出較少，這些高成本患者絕大多數是白人。

在2021年的另一篇論文中，研究人員評估了一個旨在標記敗血症發作的人工智能系統。他們發現該模型"對敗血症的預測效果很差”，但它已成為"美國醫院中最廣泛實施的敗血症早期預警系統之一”。該模型的設計者Epic Systems公司引用了其他學術研究，表明該工具改善了患者的治療效果。

雖然尚不清楚營養標籤是否能防止此類問題，但支持者表示，這將幫助醫生和醫院避免這些問題，因為他們將掌握更多關於人工智能系統優勢和劣勢的信息。

“你可以避免使用不合適或表現不佳的產品，“杜克大學健康創新研究所的臨牀數據科學家馬克·森達克説，該研究所開發人工智能工具，並創建了自己的營養標籤版本。“有人可能會對你説，‘我有一個針對這個用例準確率達到90%的模型’，[但]細節決定成敗。”

一些人工智能開發者表示，ONC的提案可能會傷害初創公司。他們特別擔心描述人工智能系統的訓練數據，他們説這可能等同於泄露他們的秘方。

“開發這些算法並驗證它們需要數年時間，“硅谷風險投資公司Andreessen Horowitz的普通合夥人朱莉·尤説。她指出，經過認證的健康記錄軟件的主要參與者，如Epic Systems，也是人工智能應用程序的開發者，可以利用營養標籤上披露的信息開發競爭產品。

Epic同樣擔心其人工智能應用程序被競爭對手複製，在給ONC的評論信中表示：“我們的風險相關信息包含知識產權，可能會被他人逆向工程和複製。”

業內其他人士認為，ONC提案的監管範圍過寬，最終將適用於幾乎所有與患者記錄交互的AI工具。ONC預估該規則將在十年間使開發商承擔8100萬至3.35億美元成本。

坦帕醫院高管阿諾德表示，醫療系統可能擁有數百種自動化工具，其應用遠不止患者護理，還包括排班、計費等任務。他指出每開發一份營養標籤都會增加成本：“這些費用會轉嫁給我們，最終很可能由患者承擔。”

聯繫記者請致電：[email protected]（瑞安·特雷西）與[email protected]（斯蒂芬妮·阿穆爾）

本文發表於2023年12月5日印刷版，標題為《美國要求AI醫療工具進行信息披露》。