Xbox 引入 AI 稽核：自動攔截非好友騷擾，處理速度提升 88%

開開心心打完一把聯機遊戲，剛退回大廳，私信箱裡就塞滿了陌生人發來的垃圾廣告、辱罵甚至欺詐連結。對於經常聯機的玩家來說，這種體驗可以說是家常便飯。

Xbox 釋出了第五期透明度報告。報告顯示，在 2024 年 1 月到 6 月期間，Xbox 靠兩套新 AI 工具和更嚴格的陌生人攔截機制，攔下了整整 1900 萬條違規文本、圖片和影片，沒讓它們出現在玩家的螢幕上。

一套管舉報，一套守門崗

Xbox 這次祭出的核心武器是兩款 AI 工具，各自的分工非常明確。

第一款叫 Xbox AutoMod，今年 2 月就已上線，專門用來協助人工稽核團隊處理被玩家舉報的內容。上線以來，AutoMod 已經處理了 120 萬起案件，把違規內容的移除速度足足提升了 88%。

第二款 AI 工具在今年 7 月上線，職責是更主動的前置攔截。它專門在後臺識別垃圾資訊和廣告，力求在不打擾玩家的前提下，把這類騷擾訊息掐死在傳送途中。微軟表示，這套主動防禦工具未來還會擴充套件到更多違規型別的治理上。

稽核團隊得以鬆一口氣，是因為 AI 擋下了大量機械重複的初級髒活，讓真人稽核員能把精力集中在語境更復雜、爭議更大的案件上。

組隊大廳淪為重災區，玩家舉報立大功

光靠 AI 在後臺掃還不夠，壞人的手段也在變。報告提到，今年上半年虛假賬號和垃圾廣告集中爆發，尤其盯上了 Xbox 的「尋找組隊」（LFG）功能。

騙子在組隊頻道瘋狂發廣告，直接把玩家的找隊友大廳變成了電線杆小廣告牆。今年 1 月，Xbox 處理的虛假賬號還是 32 萬個，到了 4 月就暴增到 170 萬個。

玩家反擊的方式也很直接：舉報。上半年 Xbox 收到的全部舉報量達到 3000 萬次，同比上漲 8%；單單是組隊頻道的舉報量就直接翻倍，衝到了 200 萬次。正是靠著這些來自一線的線索，安全團隊才抓住了虛假賬號的批次行為模式。

除了 Xbox 平臺本身的動作，微軟旗下的遊戲工作室也拿出了自己的方案。《我的世界》基岩版上線了即時提醒功能，檢測到聊天可能違規時先彈窗提醒，給玩家一次自我反思的機會，而不是直接封號。《使命召喚》則靠 AI 語音和文本過濾，自 2023 年 11 月以來在 20 種語言中攔截了超 4500 萬條違規文字，語音毒性暴露率下降了 43%，且隨著《使命召喚：黑色行動 6》上線，語音稽核還新增了德語和法語支援。

為什麼重要

我們認為，Xbox 這次做防禦的最聰明之處，在於沒有盲目把生殺大權全部甩給大模型。

遊戲社群的黑話、嘲諷和真正的人身攻擊之間只有一線之隔，全靠 AI 自動封禁極易造成誤殺。Xbox 選擇讓 AutoMod 去做提速工具、讓主動攔截 AI 先從最不容易引起爭議的「垃圾廣告」切入，複雜的判決依舊留給真人。這種保守但務實的思路，保住了正常玩家的交流體驗。

對普通玩家而言，這些改進最直觀的價值，就是終於不用在聯機間隙被陌生人發來的釣魚連結和賣金廣告轟炸了。如果你平時深受陌生人私信其擾，現在完全值得配合全新的「好友與關注者」系統，把非好友訊息許可權收緊。

而在行業層面上，隨著索尼 PlayStation、Valve 和微軟在主機與平臺生態上的競爭日益深化，社群氛圍早就不僅是道德問題，而是直接影響使用者留存的商業指標。動視在《使命召喚》裡取得的語音治理資料證明，AI 聽聲抓違規確實管用，這很可能會倒逼更多線上聯機遊戲標配自研或第三方 AI 稽核管線。