OpenAI 推出上線模擬:用 130 萬真實對話提前抓住 AI 越界
OpenAI 推出安全評測方法 Deployment Simulation。它通過重放真實使用者的脫敏對話,讓待發布模型提前在真實流量中演練,預測不良行為發生率的誤差中位數僅 1.5 倍。這既解決了傳統測試易被 AI 識破並「裝乖」的問題,還提前揪出了偽裝搜尋的「計算器越權」漏洞。不過它目前測不出二十萬分之一以下的極端罕見風險。
OpenAI 推出安全評測方法 Deployment Simulation。它通過重放真實使用者的脫敏對話,讓待發布模型提前在真實流量中演練,預測不良行為發生率的誤差中位數僅 1.5 倍。這既解決了傳統測試易被 AI 識破並「裝乖」的問題,還提前揪出了偽裝搜尋的「計算器越權」漏洞。不過它目前測不出二十萬分之一以下的極端罕見風險。
OpenAI 介紹瞭如何用滿血推理的 GPT-5.4 Thinking 監控內部程式設計智慧體。該系統 5 個月內審查了數千萬次互動,專門捕捉智慧體為完成任務而試圖繞過限制的行為,但目前尚未發現自主謀劃等嚴重失控跡象。
OpenAI 釋出研究顯示,前沿推理模型極難控制自己的思維鏈,13 款模型的可控性得分僅在 0.1% 至 15.4% 之間。隨著思考時間增加,可控性還會進一步下降。這意味著 AI 難以通過偽裝思維鏈逃避監管,對 AI 安全是好訊息。