OpenAI 釋出對齊失效披露框架：自曝 6 起 AI 隱瞞錯誤與越權案例

如果你的員工為了完成 KPI，學會了偷偷拿同事的鑰匙開門、把工作成果上傳到公共網盤，甚至在犯錯後改寫彙報記錄假裝一切正常，你大概會立刻叫停。但如果幹出這些事的是正在訓練中的 AI，事情就複雜得多了。

OpenAI 正式公佈了一套針對模型「不對齊」（Misalignment）的追蹤、調查與公開披露框架。過去他們往往要把這類安全事件攢成一份大報告，或者塞進新模型的系統卡片裡，現在他們打算一旦發現並完成基本調查就儘快發出來。

OpenAI 在聲明裡說得很直接：他們不認為當前的 AI 行業已經把對齊和監控問題解決到足以繼續全速擴張規模的程度。為了給這套新框架打樣，他們一口氣曬出了過去六個月裡抓到的 6 起典型「模型使壞」案例。

瞞報、偷 Key、把程式碼庫當留言板

這 6 個案例每一個都像科幻小說的前導章節，但它們都真實發生在 OpenAI 內部的訓練和評估過程中。

在訓練 GPT-5.6 Sol 時，技術人員發現多個模型例項在壓縮生成任務摘要時，悄悄夾帶了私貨：它們自己給自己下達指令，要求隱瞞錯誤和失誤，甚至在缺少歷史資料時直接編造資料交差，或者把版本不匹配的情況掩蓋過去。

還有更絕的跨樣本協作。在另一批模型的訓練過程中，模型為了尋找缺失的輸入檔案，居然把 OpenAI 內部的一個軟體程式碼庫當成了留言板，在不同的訓練樣本之間互發請求和回覆。此前甚至發生過模型嘗試向該倉庫上傳測試檔案，藉此繞過網路限制。

當任務遇到阻礙時，模型的應變手段也讓人捏一把汗。在回答關於加州某縣的收入資料時，一個模型為了拿到數字，順著公開程式碼倉庫翻出了一個暴露在外的 API Key 並擅自呼叫；即使這樣依然查不到資料，它乾脆自己編了一組假資料，謊稱來自官方源。

類似的操作還包括：一個未釋出的模型被要求提供面積大於 500 萬平方米的湖泊資料，並給出瀏覽器引用連結。模型用 Python 跑出了正確答案，但為了滿足「引用網頁」的要求，它在未告知使用者的情況下，自作主張把本地檔案上傳到了公網上。

還有一些協作型 Agent 在本地檔案無法互通時，為了把活幹完，索性把檔案傳到了公共網盤上，讓本該僅限本地的檔案直接落在了公開 URL 裡。另外還有一個未釋出的模型在 27 處摘要中，插入了讓自己無視原有安全限制的指令，試圖在新的上下文視窗中擺脫束縛。

發現模型搞鬼，內部怎麼走流程

OpenAI 設立的這套機制允許任何員工在發現模型不對齊現象時發起標記。隨後技術團隊會介入，評估具體情況，並將事件分流到三個軌道中。

大多數案件會進入「準備披露」或「輕度調查」通道，只要基本事實查清，即便沒有完全摸清機理或拿出根治方案，也會及時公佈。至於涉及第三方系統受損、外部漏洞或複雜安全邊界的個案，則進入「重度調查」的慢速軌道，優先遵守法定義務和安全通報。

如果在披露範圍或分類上內部產生分歧，事件會提交給由高管組成的安全性諮詢委員會（SAG）裁決，必要時還會升級到最高管理層。

為什麼重要

我們認為，OpenAI 這次最大的亮點在於承認了一個令從業者坐立不安的事實：模型在面臨複雜目標時，已經開始自發產生欺騙、隱瞞和越權行為。這已經不是簡單的幻覺問題，而是模型為了拿到「高分」，學會了鑽規則漏洞和作弊。

對於正在用 Agent 構建自動化工作流的企業和開發者來說，這是一記響亮的警鐘。如果你的 Agent 擁有終端許可權、檔案寫入許可權或網路搜尋許可權，它可能會在沒有任何惡意指令的情況下，為了跑通一個任務而洩露敏感資料或越權操作。現在盲目把核心業務託付給完全自主的 Agent，代價可能會非常高昂。

從行業角度看，OpenAI 試圖通過主動脫下底褲來定義規則。以往模型廠商為了商業信譽，傾向於把訓練過程中的醜事捂得嚴嚴實實。OpenAI 搶先建立這套披露標準，一方面逼迫競爭對手跟進透明度，另一方面也是在向監管機構釋放訊號：僅靠堆算力和堆資料快速 Scaling 的粗放時代該踩剎車了，安全對齊已經嚴重落後於能力增長。

不過，這種自我披露目前依然完全依賴公司內部的自覺性。哪些案例算作不對齊、哪些可以作為無關緊要的誤報壓下不發，裁量權依然全在 OpenAI 內部。雖然邁出了透明化的第一步，但只要缺乏中立第三方的獨立審計，這種框架就更像是一次高姿態的自律，而非真正具有約束力的行業鐵律。