跳到正文
IFAI

AI科研

OpenAI 聯手洛斯阿拉摩斯實驗室:測試多模態 AI 生物實驗安全

首次發布 傳播指數 33

OpenAI 宣佈與美國洛斯阿拉摩斯國家實驗室合作,共同評估前沿多模態 AI 在實體生物實驗室中的應用安全。雙方將測試視覺與語音模型在細胞培養、基因轉化等溼實驗中協助研究與排錯的表現,重點量化其對人員的技能提升及潛在生物安全風險。

OpenAI 聯手洛斯阿拉摩斯實驗室:測試多模態 AI 生物實驗安全
圖:openai.com

如果把一個完全沒做過生物實驗的普通人扔進實驗室,再給他配一個能看能說的 AI 助手,他能不能照著指導搞出危險的生物合成物?

這不再只是科幻小說的設定,而是美國頂級國家實驗室正在做的實操測試。OpenAI 宣佈與洛斯阿拉摩斯國家實驗室達成合作,專門評估前沿多模態大模型在真實物理實驗室環境裡的生物安全風險。

洛斯阿拉摩斯國家實驗室是當年研發原子彈的地方,隸屬於美國能源部。這次牽頭的是該實驗室新成立的 AI 風險技術評估小組,雙方要拿來開刀測試的,正是 OpenAI 的旗艦模型 GPT-4o,以及它當時尚未公開的即時語音系統。

讓 AI 戴著攝像頭進溼實驗室

之前各家評估大模型的生化威脅,基本都停留在紙面測試。比如讓 AI 寫一段危險病毒的合成步驟,或者給出一串化學配方,測測模型會不會拒絕回答。

但 OpenAI 指出,文字上的問答根本反映不了真實的動手門檻。知道質譜儀的操作原理,和在現實中面對一堆試管、儀器不把樣品搞砸,完全是兩碼事。

這次實驗把評測推進到了所謂的溼實驗室環境。研究人員設定了一系列標準的生物實驗任務,比如把外源遺傳物質匯入宿主生物的轉化實驗、體外細胞培養,以及通過離心機進行細胞分離。這些標準操作,被用作評估更具威脅的雙重用途任務的替代參照物。

測試過程中,新手和專業博士都會戴上裝置。如果新手不認識某個實驗儀器,不用打字描述,直接把攝像頭對準實驗臺,GPT-4o 就能通過視覺和即時語音一步一步教他排查故障。專案要測算的,就是前沿多模態模型到底能在多大程度上幫新手拉平與專家的動手能力差距。

這項合作也是對白宮此前釋出的 AI 行政命令的落地響應,同時呼應了 2024 年首爾 AI 峰會的前沿安全承諾。此前 OpenAI 在生物醫療領域已經有過不少動作,比如 Moderna 用他們的技術做臨床試驗資料分析,Color Health 用 GPT-4o 輔助癌症篩查,但直接進入國家安全級別的生物實驗室測試實操風險,這還是頭一次。

為什麼重要

對研究人員和普通開發者來說,這意味著前沿模型正從單純的程式碼和文字助手,真正邁進複雜的物理世界互動。如果你在做實驗科學,未來像 GPT-4o 這樣的多模態工具很可能成為實驗室標配,能看懂你的操作、用語音即時提醒步驟。不過目前這套深度評測還在國家實驗室裡封閉進行,普通人要想用上完整的即時多模態實驗輔助,還得等安全評估落地。

對整個 AI 行業而言,這次合作把安全測評的門檻直接拉高到了物理操作層面。以往業界吵來吵去的生化安全,大多是拿幾個提示詞做紅隊測試,說服力很有限。OpenAI 找來能源部國家實驗室背書,把測試搬進真實的生化實驗臺,基本上給同行打了個樣,後續其他前沿模型廠商大機率也得跟進類似的物理安全評測標準。

我們認為,OpenAI 走這一步相當聰明。一方面,把模型交由頂尖國家實驗室做極限承壓測試,既順應了監管要求,又在公眾面前立住了負責任的形象。但潛在的隱患同樣明顯:當一個視覺語音模型能把生化實驗新手手把手教成熟手時,防範濫用的防線其實變得極度脆弱。純文本模型只要攔截關鍵詞就行,而面對即時影片流裡的試管和離心機,AI 怎麼準確識別出使用者正在做的是合規實驗還是惡性病毒合成,這在工程上看起來要棘手得多。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選