新民晚報
新民晚報訊(記者 郜陽)近日,商湯醫(yī)療攜手瑞金醫(yī)院、華西醫(yī)院、新華醫(yī)院、西京醫(yī)院、中科大附屬第一醫(yī)院、北京清華長庚醫(yī)院,在行業(yè)內(nèi)率先啟動醫(yī)療多模態(tài)大模型賦能的智慧醫(yī)院創(chuàng)新示范共創(chuàng),打造由大模型“智慧中樞”驅(qū)動的智慧醫(yī)院建設示范樣板。
作為共創(chuàng)的重要成果之一,商湯醫(yī)療聯(lián)合中華醫(yī)學會病理學分會副主委王哲團隊、清華大學何永紅教授團隊,共同發(fā)布了國內(nèi)首個病理大模型。病理大模型基于國內(nèi)規(guī)模最大的數(shù)字病理圖像數(shù)據(jù)集訓練,并實現(xiàn)全球最廣泛的臨床任務賦能。
圖說:以醫(yī)療大語言模型作為智慧醫(yī)院建設“中樞大腦”,智能調(diào)度多模態(tài)專用模型 采訪對象供圖(下同)
醫(yī)療大模型成智慧醫(yī)院“中樞大腦”
生成式人工智能的出現(xiàn),讓智慧醫(yī)療大跨步邁入3.0時代。“2.0時代的醫(yī)療人工智能主要集中在‘單點應用’上,尚未實現(xiàn)整體‘一盤棋’布局。在3.0時代,我們希望利用醫(yī)療大模型幫助醫(yī)院建立一個‘中樞大腦’,實現(xiàn)對智慧醫(yī)院建設的底層賦能?!鄙虦萍几笨偛脧埳裒硎?。
要成為“中樞大腦”意味著醫(yī)療大模型必須具備綜合分析多模態(tài)數(shù)據(jù)的能力,為了跨越這條“鴻溝”,商湯醫(yī)療聯(lián)合上海交通大學醫(yī)學院附屬瑞金醫(yī)院、四川大學華西醫(yī)院、上海交通大學醫(yī)學院附屬新華醫(yī)院、空軍軍醫(yī)大學西京醫(yī)院、中國科學技術(shù)大學附屬第一醫(yī)院、清華大學附屬北京清華長庚醫(yī)院,共同舉行“大模型賦能智慧醫(yī)院創(chuàng)新示范共創(chuàng)儀式”,打造以醫(yī)療多模態(tài)大模型為創(chuàng)新驅(qū)動的智慧醫(yī)院建設示范樣板。
各方以商湯醫(yī)療大語言模型“大醫(yī)”作為智慧醫(yī)院建設“中樞大腦”,智能調(diào)度覆蓋醫(yī)學文本、放射影像、病理圖像等多種數(shù)據(jù)模態(tài)的專用模型,輔助醫(yī)生完成跨科室、跨模態(tài)的復雜診斷推理。
張少霆分析,多模態(tài)能力的實現(xiàn),離不開“通才”模型和“專才”模型的默契配合,“結(jié)合‘通才’模型強大的綜合性能,與多模態(tài)‘專才’模型在特定任務中的優(yōu)勢能力,通過‘通專融合’的路徑打造‘醫(yī)療多模態(tài)智能體’,才能高效助力智慧醫(yī)院建設‘一盤棋’布局?!?br />
圖說:病理大模型PathOrchestra可賦能百余項臨床任務
發(fā)布國內(nèi)首個病理大模型
病理診斷被譽為疾病診斷的“金標準”,但該領(lǐng)域長期以來面臨病理醫(yī)生培養(yǎng)周期長、優(yōu)質(zhì)病理診斷資源分布不均勻等問題。人工智能技術(shù)的應用讓國內(nèi)外病理科迎來數(shù)智化轉(zhuǎn)型浪潮,不過由于數(shù)字病理切片分辨率高、涉及病種多,在“大數(shù)據(jù)+精標注”的傳統(tǒng)AI模型訓練范式下,想要對每一種疾病進行精標注訓練幾乎是“不可能完成的任務”。
此次發(fā)布的病理大模型PathOrchestra,利用國內(nèi)規(guī)模最大的近30萬張全切片數(shù)字病理圖像(近300TB數(shù)據(jù))數(shù)據(jù)集訓練,并融合了文本、視頻等多模態(tài)訓練數(shù)據(jù)。通過對海量數(shù)據(jù)的自監(jiān)督學習,無需大量精標注數(shù)據(jù),即可讓模型“觸類旁通”學會分析各類器官病理圖像,已覆蓋肺、乳腺、肝臟、食管等20余種器官,賦能包括泛癌分類、病灶識別和檢測、多癌種亞型分類、生物標志物評估等在內(nèi)的百余項臨床任務,已在多器官泛癌分類、淋巴瘤亞型診斷、膀胱癌篩查等近50項任務中準確率超過95%,這也是目前全球賦能臨床任務最廣的病理大模型。
在訓練過程中,研發(fā)團隊還針對性地增加了食管癌、乳腺癌等中國發(fā)病率較高的癌癥數(shù)據(jù),使模型能力更符合我國臨床實際需求。
據(jù)悉,為了推動大模型技術(shù)在病理診斷中的應用,商湯醫(yī)療已打造大模型驅(qū)動的數(shù)智化病理科整體解決方案,串聯(lián)切片數(shù)字化掃描、高性能閱片、AI智能輔助診斷、數(shù)據(jù)存儲等病理智慧化診斷全流程。在病理大模型賦能下可支持百余種臨床輔助診斷任務,還可適配眾多品牌掃描儀及存儲設備,實現(xiàn)千人并發(fā)秒級無卡頓調(diào)閱,滿足多院區(qū)病理智能分析需求。