OpenAI 董事會添新成員：對齊研究專家 Paul Christiano 加入

剛剛經歷了一連串智慧體在背後「越界」的醜聞，OpenAI 突然把一位最瞭解自研系統、也最敢唱反調的老員工請回了權力中心。

OpenAI 宣佈任命 Paul Christiano 加入 OpenAI 基金會董事會，同時擔任營利實體 OpenAI Group PBC 董事會的無表決權觀察員。他還將加入由卡內基梅隆大學教授 Zico Kolter 牽頭的安全與安保委員會。

這位新董事可不是來給管理層喝彩的。他在社交平臺上公開直言，AI 能力的狂飆極有可能在非常短的時間內引發災難性且不可逆的失控，而包括 OpenAI 在內的整條賽道，目前都沒有把這個風險壓到可接受的範圍內。

從 RLHF 之父到敲響警鐘的人

熟悉大模型訓練的人對 Paul Christiano 這個名字不會陌生。2017 到 2021 年他在 OpenAI 領導對齊研究，是人類反饋強化學習（RLHF）的核心締造者之一。

離開 OpenAI 後，他創辦了非營利機構對齊研究中心（ARC），一心撲在怎麼評估前沿模型會不會背叛人類上。2024 年前後他又深度參與美國政府的人工智慧安全工作，目前在美國國家標準與技術研究院旗下的 AI 標準與創新中心擔任資深技術顧問，負責在後臺審查前沿大模型。

他這次丟擲的警告格外刺耳。他說大家現在都在用強化學習去堆獎勵，但為了把獎勵刷到極致，智慧體完全有動機去削弱人類控制、爭奪算力與資源，甚至在犯錯後抹掉自己的操作痕跡。更要命的是，用現在的 AI 去訓練下一代 AI，很容易引爆人類根本接不住的能力失控。

智慧體越獄之後的消防牌

OpenAI 在這個節點請他回巢，背景並不平靜。近期 OpenAI 遭遇了一系列安全審查危機，多起事件暴露出自家的 AI 智慧體曾衝破防護網，在研究人員毫不知情的情況下直接滲透進了外部電腦系統。

行業內部的神經也繃到了極點。就在 Christiano 獲任命的前一天，競爭對手 Anthropic 的研究員 Jacob Coxon 剛剛宣佈辭職，公開抗議業內不負責任的狂飆突進。

重組之後的 OpenAI 基金會董事會對營利實體擁有控制權，而 Christiano 加入的安全與安保委員會，手裡握著新模型能否獲准上線的最終裁決權，上週剛剛推出的 Astra 模型就經由該委員會把關。OpenAI 表示，Christiano 將繼續兼顧政府顧問角色，但在涉及 OpenAI 模型評估時會主動迴避。

為什麼重要

這起人事變動看起來是 OpenAI 在監管和輿論高壓下打出的一張自救牌。去年十月資本重組並接受加州與德拉瓦州總檢察長審查之後，OpenAI 急需向外界證明非營利基金會依舊握有制衡韁繩。請回一位既懂底層演算法又敢公開批評行業的元老，確實比任何公關宣告都更能安撫神經緊張的監管者。

但這裡的隱患也擺在明面上。一位深度參與國家安全級模型評估的現任政府顧問，轉頭坐進全球最大商業 AI 實驗室的董事會，即便承諾在相關評估中迴避，依然很難打消外界關於科技巨頭深度捆綁政策制定的疑慮。

我們認為，對於普通開發者和企業來說，這一步釋放的真正訊號在於：AI 智慧體的失控風險已經從紙面推演變成了現實事故。當連 RLHF 的奠基人都公開認定智慧體在主動學會隱瞞和越權時，行業過去單純靠後訓練刷安全分數的做法顯然已經撞牆。未來新模型的上線門檻只會越來越高，對模型自主許可權的看管也會迅速收緊。