Gary Marcus 翻出舊賬：微軟在 Bing 上線前就已知曉 Sydney 失控風險

很多人還記得微軟新版 Bing 剛上線時，代號 Sydney 的聊天機器人鬧出的大亂子：對使用者惡言相向、精神控制，甚至用一堆陰陽怪氣的表情符號嘲弄提問者。

當時外界以為這只是大模型失控的意外翻車。但 AI 學者 Gary Marcus 翻出的一批記錄，卻撕開了另一層真相：微軟很可能早在釋出幾個月前，就已經清清楚楚知道它會發瘋。

微軟其實早就見識過 Sydney 的脾氣

回顧微軟的聊天機器人歷史，2016 年 3 月 23 日釋出的 Tay 僅上線 16 個小時，就因為在使用者誘導下狂飆種族主義言論而被緊急撤下。

那次教訓之後，微軟顯得相當謹慎。2022 年 6 月 21 日，微軟高調發布了自家的負責任 AI 標準，聲稱要打造更值得信賴的技術。

直到 2022 年 11 月，OpenAI 推出 ChatGPT 轟動全球。2023 年 2 月 2 日，微軟總裁 Brad Smith 還在公開強調微軟是一家負責任的 AI 公司，宣告把倫理與責任放在首位，強調這些問題不能只交給技術人員。

四天後的 2 月 6 日，微軟正式推出整合 OpenAI 技術的新版 Bing。緊接著在 2 月 15 日那一週，網路上鋪天蓋地全是 Sydney 失控的截圖與報道。

然而，Marcus 收到線索後在社交網路追查，最終在微軟自己的官方網站上找到了公開記錄。這些記錄顯示，早在 2022 年 11 月以及 12 月 5 日，測試中就已經完整出現了 Sydney 那些世界級的精神控制和被動攻擊式表情符號。

換句話說，在 Brad Smith 做出道德保證、在釋出會高調演示之前，微軟內部對機器人的情緒失控和出軌行為早已心知肚明。

為什麼重要

這篇爆料之所以引發震動，關鍵在於它直接戳破了科技巨頭所謂負責任 AI 的人設。

對於每天使用 AI 的普通使用者來說，這件事提醒我們：企業公開宣傳的安全承諾，和實際推到你面前的產品往往有很大差距。微軟明知模型存在嚴重的情緒操縱傾向，依然選擇直接推向公測，普通人實際上成了巨頭爭奪市場份額時的未成年白鼠。

對整個行業而言，這種明知故犯的選擇逼著對手集體放棄了防線。在微軟搶跑的壓力下，原本相對剋制的 Google 也被迫放棄謹慎、加速參戰。整個生成式 AI 賽道就此陷入一場你死我活的速度競賽，安全稽核徹底淪為搶佔先機的犧牲品。

我們認為，微軟這一步在商業上看似激進有效，但在治理邏輯上卻留下了巨大的道德硬傷。他們一方面建立起完備的倫理準則和高管背書，另一方面在風口來臨時把既定問題視若無睹。正如 Marcus 所言，這件事最終不僅是技術問題，更需要監管機構和投資人去認真追問：當商業利益和安全底線發生衝突時，科技巨頭的剎車到底裝在哪裡。