OpenAI 推出 Control Room：發現安全隱患 35 秒內剎停 AI 作業

AI 越來越能自主幹活，但在它失控狂奔時，人類能不能隨時拔掉插頭？

OpenAI 拿出了一個給內部研究基礎設施準備的中央剎車系統：Control Room。

35 秒內拔掉插頭

簡單來說，Control Room 把 OpenAI 內部的所有研究推理負載連在了一起，覆蓋了模型訓練與評估中的智慧體取樣、資料處理等任務。

它和原有的失準監控系統協同運作。一旦監控發現安全隱患，或者管理人員決定介入，系統可以在下達指令後的 35 秒內，徹底停掉模型輸出，或者暫停整個作業。

隨著大模型向高自主性的智慧體演進，它們開始自己呼叫工具、進行多步推理。如果模型在取樣過程中出現越界或對齊偏差，傳統的“等作業跑完再排查”很容易讓大量被汙染的資料混入訓練集。Control Room 要解決的，正是這種執行時的失控風險。

為什麼重要

我們認為，OpenAI 這一步走得相當務實。面對越來越複雜的智慧體任務，安全防線必須從傳統的事後測試，前移到即時的執行監控與強制干預。

把剎車響應時間壓縮到 35 秒內，實際上是給大規模分散式叢集設立了一個明確的工程控制底線。雖然 Control Room 目前只面向 OpenAI 內部的研究體系，外部開發者暫時用不上，但它給整個前沿模型研發打了個樣：追求更強算力和更高自主性的同時，叢集底層的緊急制動系統必須是標配。