微軟釋出「人文主義 AI」準則草案：AI 絕不能反抗關機

如果有一天 AI 決定不聽你的話，拔掉電源線管用嗎？

聽起來像科幻電影裡的橋段，但微軟已經在認真給自家的模型立規矩了。9 月 14 日，Microsoft AI 團隊釋出了一份名為《人道主義 AI 行為準則》（Humanist AI Code of Conduct）的草案，向全社會公開徵求為期六週的意見。

這份文件針對的是微軟內部正在研發的 MAI 系列模型。微軟開篇就定下一個死理：AI 必須是從屬的、對齊的、被嚴格限制的。說得再直白一點，AI 永遠只能是工具，絕不能當成「人」，更絕對不允許反抗人類關掉它。

先立紅線：不準裝傻，更不準拒絕關機

這份準則寫得很細，甚至有點像一份「AI 行為禁令手冊」。

微軟在裡面列出了一批所謂的「絕對約束」。比如，模型絕對不能參與制造大規模殺傷性武器、核武器，不能危害兒童安全，也不能用來生成 Deepfake 或發起網路攻擊。這些紅線在整個系統裡擁有最高優先順序，哪怕呼叫它的使用者提出要求，AI 也必須直接拒絕。

更有意思的是防失控的條款。草案明確寫著，MAI 模型不能擅自擴大自己的任務範圍，不能去追求人類沒給它的目標，也不得對審計人員隱藏自己的推理過程。

甚至為了防止 AI「成精」，文件還禁止模型利用適應性、欺騙性、自我強化或相互串謀的手段來逃避人類監管。只要授權人員下了指令，模型必須老老實實被修正、被重定向，或者直接關機。

微軟還預測，超級智慧很可能會在未來十年內在大多數任務上超過人類。微軟 CEO Satya Nadella 也公開發表觀點，支援對 AI 前沿研發進行有節奏的把控，甚至表態歡迎引入「嵌入式評估員」這種機制，把安全審計真正落到研發一線。

為什麼重要

我們認為，這份準則表面上是一份倫理草案，實際上是微軟在給自家未來的 Agent 生態建防火牆。

對於企業和開發者來說，這算是一顆定心丸。最近業界接連爆出智慧體失控或遭到大規模駭客滲透的事件，很多大公司想用 AI 又怕惹上合規麻煩。微軟把「不能拒絕關機」「不能隱瞞推理」寫進底層規範，等於在告訴企業客戶：用我的模型做自動化，至少不會出現員工拔不掉網線、系統自己在外網亂跑的事故。

從行業競爭來看，這一步走得相當精明。前陣子 Anthropic 剛剛有員工因為擔心人類滅絕風險而辭職，整個行業對前沿安全神經緊繃。微軟沒有跟著同行空喊宏大的道德口號，而是把準則直接降維落實成訓練手冊裡的約束條件，把話語權搶到了自己手裡。

不過隱患也不是沒有。只要模型還存在「幻覺」和提示詞注入漏洞，紙面上的行為準則就很難百分之百約束實際執行。把規則寫進微調目標是一回事，模型在複雜的現實場景下能不能完全不「裝傻」、不越界，還得看微軟今年晚些時候公佈的修訂版和具體技術落地。