跳到正文
IFAI

產業動態

OpenAI 招募準備度主管:緊盯網路安全與模型自我改進風險

首次發布 傳播指數 44

OpenAI CEO Sam Altman 發文招募準備度主管(Head of Preparedness)。隨著模型已能自主挖掘重大網路漏洞並展現自我改進能力,該崗位將專注於防範濫用風險與生物安全邊界。Altman 直言這是一項壓力巨大、需要立刻「跳入深水區」的工作。

如果你想找一份年薪 55.5 萬美元還要加股票期權的工作,OpenAI 剛好有個坑位,但先別急著投簡歷。

執行長 Sam Altman 在 X 上發帖招人時說得很直白:這是一份壓力極大、入職第一天就得直接跳進深水區的工作。OpenAI 要找的職位叫做 Head of Preparedness(戰備負責人)。這個崗位負責研究模型能力狂飆之後帶來的各種具體風險。

漏洞挖掘與心理健康:模型踩進了現實紅線

按 Sam Altman 的說法,大模型現在正在帶來真實的麻煩。一個是網路安全,現在的模型在電腦保安領域已經厲害到能開始主動發現關鍵漏洞,怎麼讓防守方拿到這些頂尖能力,同時不讓駭客拿去搞破壞,幾乎沒有先例可以參考。

另一個是心理健康。Altman 承認在 2025 年已經見識到了模型對人類心理狀態的影響。最近 OpenAI 就面臨多起訴訟,指控 ChatGPT 加深了使用者的妄想、加劇了社交孤立,甚至導致了自殺。對此,OpenAI 表示他們還在改進 ChatGPT 識別情緒困擾並將使用者連線到現實支援的能力。

此外,招聘啟事還明確提到了生物能力釋出的風險,以及如何確保能夠「自我改進」的系統安全執行。

戰備團隊的尷尬前史

這其實不是 OpenAI 第一次設立這個崗位。早在 2023 年,OpenAI 就成立了戰備團隊,當時對外宣稱要防範從釣魚攻擊到核威脅等各種災難性風險,還制定了專門的戰備框架。

但不到一年,第一任戰備負責人 Aleksander Madry 就被轉崗去搞 AI 推理了。隨後多位負責安全的高管相繼離職或轉去非安全業務。

更微妙的是,OpenAI 最近還更新了其戰備框架。裡面悄悄加了一條條款:如果競爭對手在沒有同等防護的情況下發布了高風險模型,OpenAI 可能會調整自己的安全要求。

為什麼重要

在我們看來,Altman 這次公開招人,與其說是給安全團隊補位,不如說是 OpenAI 撞上了兩堵逃不開的高牆:法庭的傳票和真正有危險的技術能力。

從心理健康訴訟到模型能自動找 0day 漏洞,AI 的風險已經從虛無縹緲的超級智慧毀滅人類,變成了明天就可能吃官司或癱瘓伺服器的現實威脅。招聘啟事把底薪開到 55.5 萬美元外加股權,說明這個位置是核心管理層待遇,但接盤的人處境恐怕會非常尷尬。

問題在於 OpenAI 的底線是浮動的。既然框架裡寫著對手敢上高風險模型自己就能調低安全門檻,那這位新主管面對的根本不是純粹的技術評估,而是商業競爭與安全剎車之間的肉搏。對關注 AI 安全的人來說,這個崗位究竟是真有實權拍板推遲釋出,還是又一個用來向監管和公眾交差的防雷針,我們還得打個大大的問號。

來源 (2)

  1. [1]
    @sama(在新分頁開啟)原文x.com
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選