OpenAI 聯手微軟封禁 5 個駭客團伙：多用於程式碼查錯與釣魚

首次發布 2024年2月14日傳播指數 52

OpenAI 宣佈與微軟合作，封禁了 5 個有國家背景的惡意網路駭客團伙賬號。調查顯示，這些團伙主要用大模型搜尋公開資料、翻譯、排查程式碼錯誤以及撰寫釣魚指令碼，目前大模型在實際網路攻擊中帶來的提升仍然相對有限。

很多人還在擔心 AI 會不會突然自己寫出毀滅網路的超級病毒，但現實裡，頂尖駭客早就用上 ChatGPT 了。只不過他們的用法，可能比你想的要樸實得多。

OpenAI 聯合微軟威脅情報團隊釋出了一份報告，宣佈聯手幹掉了一批國家背景駭客的賬號。這次行動直接處置了五個組織，分別來自中國、伊朗、朝鮮和俄羅斯。

國家級駭客，也在拿 AI 當實習生

這五個團伙在業內都有代號。來自中國的 Charcoal Typhoon 和 Salmon Typhoon，主要拿 OpenAI 檢索網安工具與公開情報、翻譯技術論文、幫忙除錯程式碼以及排查程式碼錯誤，甚至研究怎麼在系統裡隱藏程序。

伊朗的 Crimson Sandstorm 和朝鮮的 Emerald Sleet，則頻繁讓 AI 幫忙寫網頁與應用指令碼，或者幫他們起草用於釣魚攻擊的話術，Emerald Sleet 還順便用它搜尋亞太防務專家和已知漏洞。

俄羅斯背景的 Forest Blizzard 更直接，主要拿大模型做開源情報調研，查衛星通訊協議和雷達成像技術，順手讓 AI 打雜寫寫指令碼。

有意思的是，OpenAI 和微軟調查後發現，這些駭客根本沒有搞出什麼毀滅性的新型 AI 攻擊武器。說白了，他們只是把 GPT 當成了一個不知疲倦的初級助手，用來幹找資料、寫簡單指令碼和翻譯這種髒活累活。

GPT-4 目前能幫駭客做的事情，現有的公開工具和搜尋引擎基本也都能搞定，大模型帶來的提升其實非常有限。

針對這批賬號，OpenAI 採取了直接封號和限制訪問的處理措施。他們表示，自己的安全與情報調查團隊正在利用自家的模型來追蹤惡意線索，分析對手是怎麼和平臺互動的，並以此來改進大模型的安全圍欄。

與此同時，微軟也公佈了一套應對原則。只要監測到國家背景的駭客團伙在用自家的 AI 介面或系統，微軟就會立即封禁並中斷服務。

如果發現駭客在濫用其他廠商的 AI 工具，微軟還會主動同步資料給同行，推動整個生態協同防禦。

我們認為，這份報告最大的價值，就是給外界過度膨脹的「AI 網路武器恐慌」潑了一盆冷水。對普通使用者和普通企業來說，至少現階段不必整天擔心 AI 會憑空捏造出無法防禦的數字核彈，對手現在也就是拿它起草幾封更有欺騙性的釣魚郵件，或者省點寫程式碼的時間。

對行業而言，這場貓鼠遊戲意味著 AI 防守方必須把平臺治理提升到國家安全級別。微軟和 OpenAI 聯手建立的這套「發現、封禁、通報同行」的機制，看起來正在成為大模型行業的安全底線。

但從另一個角度看，直接封號的做法治標不治本。駭客組織有充足的資源和手段，他們完全可以換套身份、套上代理繼續註冊，甚至直接轉向沒有審查限制的開源本地大模型。雲端封禁只是給他們添了點麻煩，真正的攻防對抗才剛剛開始。