十余個醫(yī)療大模型相繼發(fā)布,專家提示需注意三類風險
導讀
大語言模型對文本數(shù)據(jù)的解析能力極大方便了知識庫系統(tǒng)的構建,而自然語言檢索和問答則提升了知識庫的應用的便利性。
自ChatGPT風靡全球以來,國內(nèi)各領域也開始積極探索生成式人工智能大語言模型產(chǎn)品的應用。《中國人工智能大模型地圖研究報告》顯示,截至5月底國內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個,醫(yī)療領域的大模型產(chǎn)品也已發(fā)布十余個,應用場景聚焦在輔助問診、輔助決策、健康咨詢、醫(yī)學智慧影像等。
醫(yī)療大模型在輔助決策方面能夠發(fā)揮哪些作用?其與臨床決策支持系統(tǒng)有哪些區(qū)別?CDSreport結合了幾位專家的觀點進行剖析。
01
大模型或改變知識庫建設和應用方式
在剛結束的2023世界人工智能大會上,中國信通院云大所副所長閔棟在健康高峰論壇列舉了醫(yī)療大模型可能的9個應用方向,包括輔助決策、治療方案生成和質量控制等。
在輔助決策、輔助診斷方面,閔棟認為,在傳統(tǒng)臨床決策支持系統(tǒng)(CDSS)的基礎上,大模型的訓練數(shù)據(jù)來源更為廣泛,自我進化能力更高效,因而能為CDSS帶來較大幅度的提升。實際工作中,醫(yī)生經(jīng)常需要調動大量醫(yī)學知識、記憶大量的患者信息,難免會出現(xiàn)記憶疲勞、身體疲憊等問題。而醫(yī)療大模型的引入可以幫助醫(yī)生記錄信息,大幅減少醫(yī)務人員工作量,緩解疲勞。同時,大模型還能通過學習電子病歷、醫(yī)學文獻、檢查檢驗結果等數(shù)據(jù)同醫(yī)生進行語言互動,提升診斷的準確性及效率。
2023年以來,已有十幾家公司發(fā)布了醫(yī)療大模型產(chǎn)品,應用場景多聚焦在輔助問診、健康咨詢、醫(yī)學智慧影像等。其中,大模型在輔助決策發(fā)揮的作用及對CDSS能力的提升已經(jīng)成為共識。
有研究顯示,通用大模型已經(jīng)能夠在診療過程中發(fā)揮作用。例如,在信息抽取上,可以將大段臨床文本進行結構化;在數(shù)據(jù)清洗層面,可以在一定范圍內(nèi)提供一致性校驗工作。在此基礎上,經(jīng)過特殊訓練的醫(yī)療大模型,通過整合多種來源和格式數(shù)據(jù),可以提升醫(yī)療效率與質量。
醫(yī)療大模型是如何提升CDSS能力的?華東理工大學計算機技術研究所所長、自然語言處理與大數(shù)據(jù)挖掘實驗室主任阮彤表示,數(shù)據(jù)庫的建設和應用提升效果最明顯。
傳統(tǒng)的知識庫構建通常采用人工手段,從專業(yè)書籍、臨床指南,醫(yī)學文獻中抽取知識。這種抽取過程不但需要耗費較大人力,后續(xù)更新過程也比較緩慢。同時,知識圖譜等結構化的數(shù)據(jù)雖然精確,但語義表達能力遠遠弱于自然語言,包括多元關系、條件關系,因果關聯(lián)等知識模式定義。建設和使用過程需要較高的專業(yè)認知能力和業(yè)務建模能力,而模式的理解和正確性驗證也同樣有雙重門檻。此外,經(jīng)過加工的知識庫,在不同應用場景還需要結合實際情況進行二次加工,進一步局限了使用場景。
以診斷為例,不僅要結合患者主訴,還要根據(jù)檢驗檢查結果評估診斷優(yōu)劣。這個過程取決于對疾病判斷的精準度、檢驗檢查合理性以及信息交互過程方便程度。達到這些目標,信息系統(tǒng)需通過數(shù)據(jù)抓取和分析來判斷各種疾病的可能性,并且在各信息系統(tǒng)之間以及與醫(yī)務人員交互之間具備較好的處理能力,針對不同場景還需要獨特的系統(tǒng)設計和評估方式。
針對這一難點,一些CDSS供應商選擇自然語言處理等人工智能技術來處理海量醫(yī)學信息,從而實現(xiàn)結構化數(shù)據(jù),建立醫(yī)學知識庫和臨床規(guī)則庫,并納入臨床真實病歷對知識模型進行持續(xù)訓練優(yōu)化,形成不斷更新的循證醫(yī)學知識庫。
阮彤認為,大語言模型對文本數(shù)據(jù)的解析能力極大方便了知識庫系統(tǒng)的構建,而自然語言檢索和問答則提升了知識庫的應用的便利性。大語言模型體現(xiàn)的推理能力,提供了智能醫(yī)學診斷和治療方案推薦的可能性。例如,可以通過ChatGPT的開源框架langchain的一系列工具,以及Zero-Shot抽取能力,將原始文本數(shù)據(jù)抽取成為合適的形式。而對于臨床決策類的知識庫應用,可綜合患者數(shù)據(jù)通過大模型進行解析,在知識庫上進行推理。
02
醫(yī)療大模型不能“胡說”,部署可及性需要考慮
ChatGPT問世后,其語言交互能力令人驚嘆,但“一本正經(jīng)胡說”的情況也時有發(fā)生。在醫(yī)療領域,這類可能會誤導診斷,甚至威脅到患者的生命健康。醫(yī)療行業(yè)的專業(yè)性與嚴肅性,對大模型的精準度提出了極端的高要求。
日前,北京市衛(wèi)生健康委發(fā)布《北京市互聯(lián)網(wǎng)診療監(jiān)管實施辦法(試行)》便提出,嚴禁使用人工智能等自動生成處方,嚴禁在處方開具前向患者提供藥品。此舉意在規(guī)范互聯(lián)網(wǎng)診療活動,亦是在降低大模型等人工智能技術可能帶來的風險。
對于大模型在醫(yī)療領域應用的風險,閔棟總結了3方面風險:算法的局限性可能導致內(nèi)容失真,生成內(nèi)容可能出現(xiàn)錯誤;醫(yī)療數(shù)據(jù)質量不足,可能導致訓練存在安全和隱私泄露風險;算力不足可能導致成本較高。
惠每科技CTO王實曾表示,對于醫(yī)療行業(yè)的企業(yè),數(shù)據(jù)是他們獨有的優(yōu)勢。這些數(shù)據(jù)一方面為半公開數(shù)據(jù),包括收集了大量的醫(yī)學文獻的醫(yī)學知識庫、知識圖譜等;另一方面是非公開數(shù)據(jù),包括臨床脫敏數(shù)據(jù)、電子病歷、檢測檢驗報告和RLHF臨床醫(yī)生反饋數(shù)據(jù)。通過使用這些數(shù)據(jù)訓練大模型,能夠形成有別于通用基座大模型的專業(yè)能力。
同時,由于使用場景為醫(yī)療機構,為保證數(shù)據(jù)安全和患者隱私,大模型或需要在本地部署。阮彤指出,醫(yī)療行業(yè)對患者隱私保護和數(shù)據(jù)安全的要求較高,滿足醫(yī)療機構本地環(huán)境部署要求也是大模型落地的重要考量因素。考慮到醫(yī)院實際部署環(huán)境,動輒上千億參數(shù)的通用大模型難以在院內(nèi)施展拳腳,這就要求醫(yī)療大模型不能無限“大”,而要盡可能考慮部署可及性。同時,由于醫(yī)療數(shù)據(jù)不可能外接到ChatGPT或其他外部運營的大模型上,這就意味著醫(yī)療機構可控的、較為廉價的模型或是最佳選擇。
資料來源:[1]阮彤:ChatGPT等大語言模型對醫(yī)療信息系統(tǒng)的影響與提升——大語言模型在醫(yī)療行業(yè)應用系列,中國醫(yī)院協(xié)會信息專業(yè)委員會[2]醫(yī)療大模型:轉瞬即逝的曇花還是跨時代的變革,動脈網(wǎng)[3]大模型在臨床輔助診療場景下的問題與探討,CDSreport
【責任編輯:王惠】
原文標題 : 十余個醫(yī)療大模型相繼發(fā)布,專家提示需注意三類風險
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
圖片新聞
最新活動更多
-
即日-5.20立即下載>> 【限時免費】物理場仿真助力生物醫(yī)學領域技術創(chuàng)新
-
6月25日立即預約>> OFweek 2026中國高端醫(yī)療器械產(chǎn)業(yè)關鍵技術系列在線會議-醫(yī)療電子及先進醫(yī)用材料關鍵技術專場
-
精彩回顧立即查看>> OFweek 2026智慧醫(yī)院創(chuàng)新發(fā)展大會暨醫(yī)療機器人創(chuàng)新發(fā)展峰會
-
精彩回顧立即查看>> 深圳“OFweek 2026醫(yī)療機器人創(chuàng)新發(fā)展峰會“
-
精彩回顧立即查看>> OFweek2026智慧醫(yī)院創(chuàng)新發(fā)展大會
-
精彩回顧立即查看>> OFweek2026醫(yī)療器械技術系列在線會議-AI精準醫(yī)療專場
- 1 暴跌90%后,被集采重創(chuàng)的中國心血管藥王,重新殺回來了
- 2 2025全球Top20藥企財報深度:強生營收千億,禮來GLP-1引爆代謝,并購聚焦CNS與自免
- 3 利潤“失血”!魚躍醫(yī)療,重押這一賽道!
- 4 興齊眼藥2025年凈利翻倍,阿托品競品將至
- 5 2026年中國實體瘤治療產(chǎn)業(yè)全景:TOP10頭部企業(yè)研發(fā)格局與市場趨勢解析
- 6 “現(xiàn)象級”基石陣容,劑泰科技給AI制藥再添一把火
- 7 劑泰科技通過聆訊,沖刺AI藥物遞送第一股
- 8 6000萬戰(zhàn)略融資!腦機接口再獲資本獨家重倉!
- 9 中國創(chuàng)新藥,最好的時代來了
- 10 OFweek產(chǎn)業(yè)研究中心李維維:2026年醫(yī)療機器人行業(yè)發(fā)展趨勢預測
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結構工程師 廣東省/深圳市


分享









