如何抑制“AI大模型幻覺”？方舟健客互聯網醫療在做精準診斷實踐

（文/孫梅欣 編輯/張廣凱）

當“老齡化”時代不可避免的到來，如何更好地對健康進行管理、提升生活質量，成為社會熱議話題。加之人工智能普及，“AI+醫療”在多平台下得以使用，也讓市場紛紛聚焦“銀髮經濟”機遇下的互聯網醫療新賽道。

尤其是今年DeepSeek宣佈開源之後，三甲醫院、智慧健康平台等不同層級的醫療關聯機構，進行更深入的“AI+”嘗試，如AI輔助診斷、AI醫生助理、影像AI……

作為國內頭部的互聯網醫療平台，方舟健客在今年2月也宣佈接入DeepSeek開源大模型並完成私有化部署。技術+算力的優化，為“AI+慢病管理”提供了數字驅動，方舟健客通過自主研發“H2H（Hospital To Home從醫院到家庭）智慧醫療生態”為“AI+H2H”的升級，希望成為公司的智慧醫療業務的新增長點。

在AI協助下，升級後的“AI+H2H”智慧醫療服務平台對於諮詢處理效率得到提升、回覆內容更為精準有效，能夠為患者端和醫生端帶來服務效率提升。

同時，隨着DeepSeek大量使用後所暴露出的“AI幻覺”問題，方舟健客也通過混合雲部署、內部準確知識庫的建立，以及人機協同等方式進行抑制，給出了醫療大模型細分領域的創新解決方案。

用人機協同提升服務效率

  “在我國，有數據顯示，75%的老年人至少有一種慢性病，老年人對慢病服務管理的需求很強烈。但因醫患之間信息不對稱、醫療資源分佈不均衡、慢病患者用藥依從性低等情況，慢病患者尤其在複診續方上還是存在着不少的痛點。”

作為方舟健客的創始人、董事長兼首席執行官，謝方敏希望能夠通過公司創新研發的H2H智慧醫療服務平台，將在線複診、慢病管理、醫患教育、藥品服務等從醫院延伸至家庭。

此外，還能通過一對一服務的方式，有針對性地為慢病患者提供用藥指導、健康知識科普等服務，解決患者用藥依從性差等實際問題。

謝方敏表示，從多年實踐經驗來看，80%的醫療諮詢存在重複提問，“一直回覆同樣的問題”也變相佔用了醫生大量時間。“接入大模型之後，AI醫生助理不僅可以更準確識別語言歧義，並且可以按照醫生的問診邏輯進一步追問，再將問題初篩彙總後交由醫生集中處理。”

但謝方敏強調，目前H2H智慧醫療平台採取的是人機協同的運作模式：“收集整理的患者問詢，都會有專業的執業醫生進行答覆。若AI醫生助理在處理用户問詢判斷為病情嚴重，也會第一時間首先建議患者線下就醫。”

事實上，各大醫療諮詢平台上目前入駐的醫生，大部分還是在通過碎片化提供線上問診回覆，但對於患者端而言，就存在較長的等待時間、即時回答率太低的情況。

“接到用户問詢時，AI醫生助手經過醫生准許，會針對患者提出的基礎性問題，進行符合專業醫學的解答。”謝方敏提到，尤其是老年慢病患者普遍會存在重複、多次提問的情況，這些老年慢病羣體希望在就醫過程中獲得情緒價值的安撫。

“在合理時間內做到‘有問必答’，本身也是情緒價值的提供，疊加上算力提供較為準確的回答，能夠讓患者有更好的體驗感。”他認為，體驗感提升不僅能讓用户增強對疾病認知、提升問診信任度有較大的影響，同時也能提高平台用户忠誠度。

抑制“AI幻覺”，要“喂”更準確信息

在DeepSeek的迅速風靡的同時，海量的使用用户隨即發現，人工智能會存在編故事一樣的“AI幻覺”，並能達到以假亂真的程度。

在技術創新、文學創作方面，“AI幻覺”是可以被容錯的領域，但在更為嚴謹的醫療行業，1%的差錯都會帶來嚴重的事故。如何規避可能由於“AI幻覺”所帶來失誤？業內也亟待一套完善的解決方案。

謝方敏坦言，“AI幻覺”是大型通用模型在應用階段所遇到的第一大瓶頸，同時當前還存在醫藥領域的數據安全、個人隱私保護及合規性問題：“因此我們在藉助DeepSeek能力的同時，也同步對公司的AI智能體平台也做了四個方面的升級。”

根據方舟健客技術負責人介紹，四方面的升級分別體現在技術、數據、安全管理和數據庫等方面。首先，通過升級技術架構，用更大算力資源讓模型變得更聰明；其次，升級了AI智能體開發平台，讓應用可以更快搭建；再次，升級了安全管理平台，針對安全合規性設置更高要求；最後，升級知識庫的體系和內容，儘可能讓AI幻覺最小化。

“具體來説，一方面我們通過跟騰訊雲合作，用私有化的彈性提供更高算力資源，跑V3和R1的一些微調模型。另外考慮到數據放在雲端可能存在風險，我們把所有數據部署在本地，並有專門的安全管理平台做管理。”該負責人表示，方舟健客採用混合雲部署架構，可以很好地平衡算力資源和安全性的問題。

據悉，方舟健客不僅對接了DeepSeek，也對接了千問、Kimi、混元、miniMax等等通用模型，他補充説：“在這樣的部署實踐下，一方面能為AI智能體平台算力賦能，另一方面針對專業性強的問答還會進行任務細分，還可以交予不同的專家模型回覆，以抑制AI幻覺的產生。”

方舟健客技術負責人認為，AI幻覺產生的主要因素，一是由於內容缺失，二是因為訓練內容之間相互存在歧義，所以抑制AI幻覺最好的方式，就是給模型提供準確的知識：“因此我們在內部構建了包括藥品説明書、醫學指南等專業信息在內的準確知識庫，並且我們還會通過大模型對知識庫再進行反覆檢查，讓內容更加準確，避免輸出內容時出現不可預測的情況。”