OpenAI 联手洛斯阿拉莫斯实验室:测试多模态 AI 生物实验安全
OpenAI 宣布与美国洛斯阿拉莫斯国家实验室合作,共同评估前沿多模态 AI 在实体生物实验室中的应用安全。双方将测试视觉与语音模型在细胞培养、基因转化等湿实验中协助研究与排错的表现,重点量化其对人员的技能提升及潜在生物安全风险。

如果把一个完全没做过生物实验的普通人扔进实验室,再给他配一个能看能说的 AI 助手,他能不能照着指导搞出危险的生物合成物?
这不再只是科幻小说的设定,而是美国顶级国家实验室正在做的实操测试。OpenAI 宣布与洛斯阿拉莫斯国家实验室达成合作,专门评估前沿多模态大模型在真实物理实验室环境里的生物安全风险。
洛斯阿拉莫斯国家实验室是当年研发原子弹的地方,隶属于美国能源部。这次牵头的是该实验室新成立的 AI 风险技术评估小组,双方要拿来开刀测试的,正是 OpenAI 的旗舰模型 GPT-4o,以及它当时尚未公开的实时语音系统。
让 AI 戴着摄像头进湿实验室
之前各家评估大模型的生化威胁,基本都停留在纸面测试。比如让 AI 写一段危险病毒的合成步骤,或者给出一串化学配方,测测模型会不会拒绝回答。
但 OpenAI 指出,文字上的问答根本反映不了真实的动手门槛。知道质谱仪的操作原理,和在现实中面对一堆试管、仪器不把样品搞砸,完全是两码事。
这次实验把评测推进到了所谓的湿实验室环境。研究人员设置了一系列标准的生物实验任务,比如把外源遗传物质导入宿主生物的转化实验、体外细胞培养,以及通过离心机进行细胞分离。这些标准操作,被用作评估更具威胁的双重用途任务的替代参照物。
测试过程中,新手和专业博士都会戴上设备。如果新手不认识某个实验仪器,不用打字描述,直接把摄像头对准实验台,GPT-4o 就能通过视觉和实时语音一步一步教他排查故障。项目要测算的,就是前沿多模态模型到底能在多大程度上帮新手拉平与专家的动手能力差距。
这项合作也是对白宫此前发布的 AI 行政命令的落地响应,同时呼应了 2024 年首尔 AI 峰会的前沿安全承诺。此前 OpenAI 在生物医疗领域已经有过不少动作,比如 Moderna 用他们的技术做临床试验数据分析,Color Health 用 GPT-4o 辅助癌症筛查,但直接进入国家安全级别的生物实验室测试实操风险,这还是头一次。
为什么重要
对研究人员和普通开发者来说,这意味着前沿模型正从单纯的代码和文字助手,真正迈进复杂的物理世界交互。如果你在做实验科学,未来像 GPT-4o 这样的多模态工具很可能成为实验室标配,能看懂你的操作、用语音实时提醒步骤。不过目前这套深度评测还在国家实验室里封闭进行,普通人要想用上完整的实时多模态实验辅助,还得等安全评估落地。
对整个 AI 行业而言,这次合作把安全测评的门槛直接拉高到了物理操作层面。以往业界吵来吵去的生化安全,大多是拿几个提示词做红队测试,说服力很有限。OpenAI 找来能源部国家实验室背书,把测试搬进真实的生化实验台,基本上给同行打了个样,后续其他前沿模型厂商大概率也得跟进类似的物理安全评测标准。
我们认为,OpenAI 走这一步相当聪明。一方面,把模型交由顶尖国家实验室做极限承压测试,既顺应了监管要求,又在公众面前立住了负责任的形象。但潜在的隐患同样明显:当一个视觉语音模型能把生化实验新手手把手教成熟手时,防范滥用的防线其实变得极度脆弱。纯文本模型只要拦截关键词就行,而面对实时视频流里的试管和离心机,AI 怎么准确识别出用户正在做的是合规实验还是恶性病毒合成,这在工程上看起来要棘手得多。
来源 (1)
- openai.com(在新标签页打开)原文openai.com