跳到正文
IFAI

大模型

Google 测试医疗大模型 Med-PaLM 2:梅奥诊所接入试水

首次发布 传播指数 58

据《华尔街日报》报道,Google 从 4 月开始在梅奥诊所等机构测试医疗大模型 Med-PaLM 2,正面迎战微软。该模型专门用医学考试题训练,擅长解答医疗咨询和整理病历。不过研发团队坦言它仍会一本正经地胡说八道,离真正辅助看病还有距离。

Google 测试医疗大模型 Med-PaLM 2:梅奥诊所接入试水
图:livemint.com

把生病时的症状输入搜索引擎,很多时候只会把自己吓个半死。Google 显然知道这件事,所以他们打算换个更专业、但也更冒险的打法:直接让 AI 进医院当助手。

据《华尔街日报》报道,Google 从 4 月开始在梅奥诊所(Mayo Clinic)等医疗机构内部测试其医疗专用模型 Med-PaLM 2。与面向日常聊天的通用模型不同,Med-PaLM 2 专门吃透了多套医疗执照考试的真题与解答,目标是帮医生整理海量病历、总结文献,甚至直接解答医疗咨询。

医生觉得它答得好,但错误也更多

这场医疗 AI 之争背后是激烈的云业务暗战。微软在 4 月就拉上主流医疗软件巨头 Epic,用背后的 GPT 技术帮医护自动起草给病人的回复信息。两家大厂在标准化医疗试题上的跑分咬得极紧,但现实场景要苛刻得多。

根据 Google 在 5 月公布的一份研究,执业医生在评估 Med-PaLM 2 对 1000 多个医疗问题的解答时,在官方划定的 9 个维度里,有 8 个维度的回答被认为优于人类医生。它听起来更有条理,解释也详尽。

但在最致命的一项指标上,AI 露出了马脚。评审医生发现,Med-PaLM 2 答案里出现的不准确或无关内容,明显多于人类同行。更尴尬的是,研究人员承认,相比去年 12 月发布的第一版,Med-PaLM 2 在避免胡说八道这件事上并没有显著改观。

Google 参与该项目的高级研究总监 Greg Corrado 讲得很坦白:他觉得这项技术目前还没成熟到可以让自己放心用在家人的看病流程中。但他同时也强调,在 AI 确实能帮上忙的地方,它把效率放大了 10 倍。

隐私顾虑与监管警钟

除了技术本身的幻觉,医院和伦理学家最警惕的始终是患者数据安全。Google 过去曾因与医院合作处理敏感医疗数据而饱受外界审视。

对此,Google 高管强调,参与测试的医院对数据拥有完全控制权,测试环境经过端到端加密,Google 既无法查看,也不会用这些病历数据来继续训练底层模型。

但外部质疑依然不少。世卫组织在 5 月专门发出提醒,担心大语言模型在医疗领域的落地速度太快,各方缺乏面对新技术时该有的审慎。斯坦福大学医学院助理教授 Dev Dash 也直言,整个行业目前根本没有一套能在规模化应用中有效评估这些模型安全性的成熟方案。

为什么重要

我们认为,Google 选择把 Med-PaLM 2 关在顶尖医院的封闭环境里测试,是一次务实却充满妥协的防守。

在通用大模型战场上,微软靠 OpenAI 的快节奏抢占了大量先机,甚至直接把生成式助手塞进了医生的日常操作界面。Google 如果继续求稳,不仅会丢掉医疗云市场,还会失去定义专业垂直场景的话语权。押注梅奥诊所这样的金字招牌,是它证明自身技术严谨性的最好背书。

但问题在于,医疗是容错率最低的行业。消费级聊天机器人跑题或编造数据,顶多是个谈资;而医疗模型哪怕在 100 次咨询里只胡说了一次,代价也可能是人命。Google 自己公布的评测其实揭示了一个危险的现状:大模型能模仿出比专业医生更体贴、更权威的语气,却无法根除底层的幻觉。

对于普通患者和一线临床医生来说,现在绝对不是把诊断建议交给 AI 的时候。它眼下最靠谱的价值,依然只是替医生从浩如烟海的既往病历中抓取线索、起草格式化的交接班摘要。谁要是妄图让它跨过辅助边界去给患者下结论,谁就得承担难以估量的伦理与法律风险。

来源 (2)

  1. [1]
    wsj.com(在新标签页打开)原文wsj.com
  2. [2]

话题追踪Google 与微软在医疗 AI 领域的竞争

这个话题的历次新闻,最新的在上面。

  1. Google Cloud 推出医疗 AI 搜索:一键跨病历调取数据,直链原始来源
  2. 梅奥诊所测试微软 Copilot:帮医生自动填表,数百名医护率先试用
  3. 微软联手医疗机构 Mercy:用生成式 AI 帮患者看化验单和挂号
  4. Microsoft 联手 Epic:将生成式 AI 深度植入电子病历系统
  5. Google 测试医疗大模型 Med-PaLM 2:梅奥诊所接入试水本条

每日 AI 内容精选