跳到正文
IFAI

AI科研

OpenAI 与 Penda 联合研究:AI 临床助手帮医生减少 16% 诊断错误

首次发布 传播指数 36

OpenAI 与肯尼亚医疗机构 Penda Health 公布近 4 万人次就诊研究,大模型驱动的临床助手 AI Consult 让医生诊断错误减少 16%、治疗错误减少 13%。系统在后台运行充当安全网,仅在发现潜在风险时预警,最终决策权仍在医生手中。

OpenAI 与 Penda 联合研究:AI 临床助手帮医生减少 16% 诊断错误
图:openai.com

把大模型塞进医院这事,大部分技术团队还在刷基准测试的分数,但 OpenAI 和肯尼亚的一家连锁诊所,已经悄悄拿近 4 万名真实病人的就诊记录做了一场严肃的对照实验。

OpenAI 公布了一项与肯尼亚初级保健医疗机构 Penda Health 的合作研究。在覆盖内罗毕 15 家诊所、共计 39849 次患者就诊的实际测试中,接了 AI 临床副驾驶的医生,诊断错误相对减少了 16%,治疗错误相对减少了 13%。

如果单看那些被系统触发了严重警报的高危病例,效果更明显:诊断错误率直接压低了 31%,治疗方案错误也下降了 18%。

别让医生主动提问,把它做成红绿灯

Penda Health 在内罗毕运营着 16 家全天候门诊,每年要看差不多 50 万名病人。基层全科医生一天要面对各种年龄和杂症,漏诊和误诊极难完全避免。

Penda 最早做的 AI 工具其实很笨拙,搞得像普通对话框,必须医生主动输入求助,结果不仅没人爱用,还打乱了面对面问诊的节奏。

后来他们把底层换成 GPT-4o,改造成一个名为 AI Consult 的后台安全网。医生在电子病历系统里录入信息时,脱敏后的病历会实时送给模型分析,并在界面上给出三种提示。

绿色是对勾,代表没发现异常;黄色是小铃铛,代表存在中度疑问,医生可以自己决定要不要点开;红色则是强制弹窗,代表可能存在重大安全隐患,医生必须确认后才能继续操作。

为了让大模型接地气,提示词里还特意注入了肯尼亚本地的流行病学背景、官方诊疗指南和机构的标准化流程。

基层医生不是不信 AI,是需要有人教

有意思的是,光把系统装进电脑里,根本没起多大作用。

在 1 月底到 2 月底的导入期,即使系统弹出了高危的红牌警报,医生们置之不理的比例依然高达 35% 到 40%,几乎跟没装系统的对照组毫无区别。有的医生是没意识到警报的严重性,有的则是被误报搞烦了,比如系统曾因为儿童没测血压而疯狂报错,但该机构常规看诊本来就不给儿童量血压。

到了 3 月份的主测试阶段,Penda 开始动用管理手段,安排诊所骨干做一对一辅导,解释大模型的优缺点,同时在内部对善用 AI 的医生给予考核奖励。这套组合拳打下去,高危警报被忽视的比例才从 40% 腰斩到了 20%。

108 名独立医生(其中 29 名来自肯尼亚本地)盲审了抽取的 5666 份真实病历。数据表明,AI 组在病史采集错误上减少了 32%,检查开立错误减少了 10%,漏开重要药物或遗漏患者健康宣教的情况也明显改善。

为什么重要

我们认为这项研究最大的价值,在于戳破了一个幻觉:医疗 AI 的瓶颈从来不是大模型不够聪明,而是它到底怎么嵌进医生的日常动作里。

以往很多医疗 AI 试图扮演全知全能的诊断专家,甚至想替医生拿主意,这在监管和责任伦理上几乎走不通。Penda 和 OpenAI 这次聪明的地方,在于把大模型降级为一个只在暗处盯着的校对员。日常看诊它不废话,只有在可能犯低级错误时才拉警报,把最终决定权死死留在医生手里,这种防御性设计的落地阻力要小得多。

但硬币的另一面是,AI 能否发挥作用,极其依赖线下的组织管理和流程打磨。如果只把接口接进医院就撒手不管,医生遇到几次误报就会把它当成耳旁风。换句话说,光卖 API 或软件许可证在医疗场景行不通,服务商必须把本地化指南适配、医生培训和变更管理一起打包。

对于医疗资源匮乏的地区来说,这种成本低廉的后台纠偏机制性价比极高。按照 Penda 自身的测算,单在他们现有的接诊规模下,这套系统每年就能防范 2.2 万次误诊和 2.9 万次用药差错。这给大模型商业化提供了一个看得见摸得着的真实样板。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选