跳到正文
IFAI

AI科研

OpenAI 推出安全研究員計劃:給津貼和算力,資助外部 AI 安全研究

首次發布 傳播指數 31

OpenAI 宣佈推出安全研究員計劃,面向外部學者資助先進 AI 系統的安全與對齊研究。入選者將獲得月度津貼、算力支援及 API 額度,研究重點涵蓋智慧體監督與評估等。申請將於 5 月 3 日截止,不過入選者不會獲得內部系統許可權。

OpenAI 推出安全研究員計劃:給津貼和算力,資助外部 AI 安全研究
圖:openai.com

想做前沿 AI 安全研究的人,最頭疼的往往不是沒想法,而是既缺算力又缺行業真實環境。

大廠把模型捂得嚴嚴實實,外部學者只能隔空打拳;真要去大廠工作,又得搭上全職工作的身家性命。OpenAI 最近拿出了一個折中方案。

OpenAI 宣佈啟動名為 OpenAI Safety Fellowship 的試點專案,專門招募外部研究員、工程師和跨領域從業者,開展針對高階 AI 系統安全與對齊的研究。

給算力和工位,但不給碰內部系統

整個研究計劃從 2026 年 9 月 14 日持續到 2027 年 2 月 5 日,大概持續小半年。

入選的研究員可以去加州伯克利的 Constellation 共享辦公空間線下工作,也可以選擇完全遠端。

待遇方面,OpenAI 會按月發放津貼,並提供算力支援、API 額度以及 OpenAI 導師的全程指導。

不過這裡有一個非常微妙的邊界:OpenAI 明確寫著,入選者會拿到 API 額度等資源,但不會獲得內部系統訪問許可權。說白了,你依然只能站在門外測模型,看不到核心程式碼或未公開的底層架構。

研究方向劃得很寬,包括安全評估、AI 倫理、系統魯棒性、可擴充套件緩解方案、隱私保護安全方法,以及眼下正熱的智慧體監督和高危害濫用領域。

廣撒網招人,但必須交出硬核成果

這次招募並沒有把門檻卡死在計算機專業。

除了計算機背景,社會科學、網路安全、隱私、人機互動等領域的從業者都可以申請。官方強調,他們看重的是技術判斷力、研究能力和執行力,而不是光鮮的文憑或特定資歷。

申請流程需要提供推薦人聯絡方式。報名通道截止到 5 月 3 日,OpenAI 計劃在 7 月 25 日前通知入選結果。

天下沒有免費的算力,入選者必須在專案結束前交出實質性的成果,比如發一篇紮實的論文、開源一套評測基準,或者整理出一個高質量的安全資料集。

為什麼重要

如果你是高校博士生、獨立安全研究員或網路安全工程師,這算是一個難得的跳板。

你不用籤賣身契入職,就能拿到 OpenAI 的算力補助和津貼,還能和一線研究員直接搭上線。這對於那些手裡有課題、但苦於算力賬單太貴的學者來說,值得去投一份簡歷試試。

從行業角度看,AI 安全這個圈子過去一年多流失了不少人才,機構內外對模型安全的信任度也一直在被拷問。OpenAI 用外部獎學金的形式把生態聚起來,算是一步聰明的公關和人才儲備棋。

把人安置在伯克利的 Constellation 也很耐人尋味。這裡是 AI 安全圈子的一個重要樞紐,OpenAI 顯然想通過物理空間的接觸,重新把外部安全社群拉攏在自己周圍。

但問題也很明顯:不給內部系統訪問許可權,就意味著外部研究員只能當黑盒測試員。

在很多深層對齊問題上,如果看不到權重、看不了訓練過程和監控日誌,很多研究其實很難觸及核心。我們認為,這個計劃能在安全評測和紅隊防濫用上湊出不少漂亮基準,但指望靠它解決更深奧的模型可解釋性或底層對齊,看起來空間並不大。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選