跳到正文
IFAI

大模型

Google 測試醫療大模型 Med-PaLM 2:梅奧診所接入試水

首次發布 傳播指數 58

據《華爾街日報》報道,Google 從 4 月開始在梅奧診所等機構測試醫療大模型 Med-PaLM 2,正面迎戰微軟。該模型專門用醫學考試題訓練,擅長解答醫療諮詢和整理病歷。不過研發團隊坦言它仍會一本正經地胡說八道,離真正輔助看病還有距離。

Google 測試醫療大模型 Med-PaLM 2:梅奧診所接入試水
圖:livemint.com

把生病時的症狀輸入搜尋引擎,很多時候只會把自己嚇個半死。Google 顯然知道這件事,所以他們打算換個更專業、但也更冒險的打法:直接讓 AI 進醫院當助手。

據《華爾街日報》報道,Google 從 4 月開始在梅奧診所(Mayo Clinic)等醫療機構內部測試其醫療專用模型 Med-PaLM 2。與面向日常聊天的通用模型不同,Med-PaLM 2 專門吃透了多套醫療執照考試的真題與解答,目標是幫醫生整理海量病歷、總結文獻,甚至直接解答醫療諮詢。

醫生覺得它答得好,但錯誤也更多

這場醫療 AI 之爭背後是激烈的雲業務暗戰。微軟在 4 月就拉上主流醫療軟體巨頭 Epic,用背後的 GPT 技術幫醫護自動起草給病人的回覆資訊。兩家大廠在標準化醫療試題上的跑分咬得極緊,但現實場景要苛刻得多。

根據 Google 在 5 月公佈的一份研究,執業醫生在評估 Med-PaLM 2 對 1000 多個醫療問題的解答時,在官方劃定的 9 個維度裡,有 8 個維度的回答被認為優於人類醫生。它聽起來更有條理,解釋也詳盡。

但在最致命的一項指標上,AI 露出了馬腳。評審醫生髮現,Med-PaLM 2 答案裡出現的不準確或無關內容,明顯多於人類同行。更尷尬的是,研究人員承認,相比去年 12 月釋出的第一版,Med-PaLM 2 在避免胡說八道這件事上並沒有顯著改觀。

Google 參與該專案的高階研究總監 Greg Corrado 講得很坦白:他覺得這項技術目前還沒成熟到可以讓自己放心用在家人的看病流程中。但他同時也強調,在 AI 確實能幫上忙的地方,它把效率放大了 10 倍。

隱私顧慮與監管警鐘

除了技術本身的幻覺,醫院和倫理學家最警惕的始終是患者資料安全。Google 過去曾因與醫院合作處理敏感醫療資料而飽受外界審視。

對此,Google 高管強調,參與測試的醫院對資料擁有完全控制權,測試環境經過端到端加密,Google 既無法檢視,也不會用這些病歷資料來繼續訓練底層模型。

但外部質疑依然不少。世衛組織在 5 月專門發出提醒,擔心大語言模型在醫療領域的落地速度太快,各方缺乏面對新技術時該有的審慎。斯坦福大學醫學院助理教授 Dev Dash 也直言,整個行業目前根本沒有一套能在規模化應用中有效評估這些模型安全性的成熟方案。

為什麼重要

我們認為,Google 選擇把 Med-PaLM 2 關在頂尖醫院的封閉環境裡測試,是一次務實卻充滿妥協的防守。

在通用大模型戰場上,微軟靠 OpenAI 的快節奏搶佔了大量先機,甚至直接把生成式助手塞進了醫生的日常操作介面。Google 如果繼續求穩,不僅會丟掉醫療雲市場,還會失去定義專業垂直場景的話語權。押注梅奧診所這樣的金字招牌,是它證明自身技術嚴謹性的最好背書。

但問題在於,醫療是容錯率最低的行業。消費級聊天機器人跑題或編造資料,頂多是個談資;而醫療模型哪怕在 100 次諮詢裡只胡說了一次,代價也可能是人命。Google 自己公佈的評測其實揭示了一個危險的現狀:大模型能模仿出比專業醫生更體貼、更權威的語氣,卻無法根除底層的幻覺。

對於普通患者和一線臨床醫生來說,現在絕對不是把診斷建議交給 AI 的時候。它眼下最靠譜的價值,依然只是替醫生從浩如煙海的既往病歷中抓取線索、起草格式化的交接班摘要。誰要是妄圖讓它跨過輔助邊界去給患者下結論,誰就得承擔難以估量的倫理與法律風險。

來源 (2)

  1. [1]
    wsj.com(在新分頁開啟)原文wsj.com
  2. [2]

話題追蹤Google 與微軟在醫療 AI 領域的競爭

這個話題的歷次新聞,最新的在上面。

  1. Google Cloud 推出醫療 AI 搜尋:一鍵跨病歷調取資料,直鏈原始來源
  2. 梅奧診所測試微軟 Copilot:幫醫生自動填表,數百名醫護率先試用
  3. 微軟聯手醫療機構 Mercy:用生成式 AI 幫患者看化驗單和掛號
  4. Microsoft 聯手 Epic:將生成式 AI 深度植入電子病歷系統
  5. Google 測試醫療大模型 Med-PaLM 2:梅奧診所接入試水本則

每日 AI 內容精選