Xbox 引入 AI 审核：自动拦截非好友骚扰，处理速度提升 88%

开开心心打完一把联机游戏，刚退回大厅，私信箱里就塞满了陌生人发来的垃圾广告、辱骂甚至欺诈链接。对于经常联机的玩家来说，这种体验可以说是家常便饭。

Xbox 发布了第五期透明度报告。报告显示，在 2024 年 1 月到 6 月期间，Xbox 靠两套新 AI 工具和更严格的陌生人拦截机制，拦下了整整 1900 万条违规文本、图片和视频，没让它们出现在玩家的屏幕上。

一套管举报，一套守门岗

Xbox 这次祭出的核心武器是两款 AI 工具，各自的分工非常明确。

第一款叫 Xbox AutoMod，今年 2 月就已上线，专门用来协助人工审核团队处理被玩家举报的内容。上线以来，AutoMod 已经处理了 120 万起案件，把违规内容的移除速度足足提升了 88%。

第二款 AI 工具在今年 7 月上线，职责是更主动的前置拦截。它专门在后台识别垃圾信息和广告，力求在不打扰玩家的前提下，把这类骚扰消息掐死在发送途中。微软表示，这套主动防御工具未来还会扩展到更多违规类型的治理上。

审核团队得以松一口气，是因为 AI 挡下了大量机械重复的初级脏活，让真人审核员能把精力集中在语境更复杂、争议更大的案件上。

组队大厅沦为重灾区，玩家举报立大功

光靠 AI 在后台扫还不够，坏人的手段也在变。报告提到，今年上半年虚假账号和垃圾广告集中爆发，尤其盯上了 Xbox 的「寻找组队」（LFG）功能。

骗子在组队频道疯狂发广告，直接把玩家的找队友大厅变成了电线杆小广告墙。今年 1 月，Xbox 处理的虚假账号还是 32 万个，到了 4 月就暴增到 170 万个。

玩家反击的方式也很直接：举报。上半年 Xbox 收到的全部举报量达到 3000 万次，同比上涨 8%；单单是组队频道的举报量就直接翻倍，冲到了 200 万次。正是靠着这些来自一线的线索，安全团队才抓住了虚假账号的批量行为模式。

除了 Xbox 平台本身的动作，微软旗下的游戏工作室也拿出了自己的方案。《我的世界》基岩版上线了实时提醒功能，检测到聊天可能违规时先弹窗提醒，给玩家一次自我反思的机会，而不是直接封号。《使命召唤》则靠 AI 语音和文本过滤，自 2023 年 11 月以来在 20 种语言中拦截了超 4500 万条违规文字，语音毒性暴露率下降了 43%，且随着《使命召唤：黑色行动 6》上线，语音审核还新增了德语和法语支持。

为什么重要

我们认为，Xbox 这次做防御的最聪明之处，在于没有盲目把生杀大权全部甩给大模型。

游戏社区的黑话、嘲讽和真正的人身攻击之间只有一线之隔，全靠 AI 自动封禁极易造成误杀。Xbox 选择让 AutoMod 去做提速工具、让主动拦截 AI 先从最不容易引起争议的「垃圾广告」切入，复杂的判决依旧留给真人。这种保守但务实的思路，保住了正常玩家的交流体验。

对普通玩家而言，这些改进最直观的价值，就是终于不用在联机间隙被陌生人发来的钓鱼链接和卖金广告轰炸了。如果你平时深受陌生人私信其扰，现在完全值得配合全新的「好友与关注者」系统，把非好友消息权限收紧。

而在行业层面上，随着索尼 PlayStation、Valve 和微软在主机与平台生态上的竞争日益深化，社区氛围早就不仅是道德问题，而是直接影响用户留存的商业指标。动视在《使命召唤》里取得的语音治理数据证明，AI 听声抓违规确实管用，这很可能会倒逼更多在线联机游戏标配自研或第三方 AI 审核管线。