Roblox 上线 AI 聊天改写：告别「#####」，脏话自动换成文明词

玩过 Roblox 的人都知道，游戏里最让人抓狂的不是怪有多难打，而是队友打字提醒你身后有怪，屏幕上却只跳出一串「###########」。

为了干掉这些恼人的井号键，Roblox 在 3 月 5 日宣布上线一项新功能：用 AI 实时改写聊天内容。以后你在游戏里嘴碎带了脏字，系统不会再直接拿一串栅栏把话挡死，而是用 AI 把它翻译成符合规范的人话。

把红灯变成方向盘

这项功能目前主要针对不当词汇。Roblox 举了个很典型的例子：如果有人在战况紧急时敲了一句「Hurry tf up!」，AI 会在保留原意的前提下，悄悄把它替换成干净的「Hurry up!」。

现场所有人都能看到这句话被改写过，聊天框会弹出提示。这样一来，团队协作不会因为一串乱码彻底断档，发消息的人也能立刻明白平台觉得哪个词越界了。

但这不意味着你能随便爆粗口。Roblox 明确表示，被 AI 改写依然算作违规行为，屡教不改的账号照样会吃到禁言或封号处罚。

目前这个改写功能并不是对所有人开放。它只出现在游戏内的实时文字聊天中，而且只限于完成了年龄认证、且处于相同年龄段的玩家与好友之间。语言方面则直接接入了平台现有的自动翻译系统。

请大模型来抓火星文

除了给脏话做实时润色，Roblox 这次还彻底重构了底层的文本审核架构。

以前平台的过滤网主要靠两套工具：一套是死板的规则引擎，用来快速应对突发敏感词；另一套是针对特定违规词训练的小模型，速度飞快，但一遇到新造词或上下文暗语就抓瞎。

现在他们拉来了一个能力更强的大型推理模型充当第三道防线。当小模型拿不准一句话到底违不违规时，就会交给大模型去理解整句话的上下文语境。

这个升级主要用来对付用数字、符号替代字母的「火星文」，以及各种试图钻空子的绕过手段。Roblox 表示，新系统上线后，用户私下索要或分享电话号码、社交账号等个人信息的漏报率直接降低了 20 倍。

平台在去年 5 月其实就试过在文字和语音里推行实时警告，当时的测试让被过滤的违规消息减少了 5%，由恶意举报引发的封禁处罚减少了 6%。这次换成 AI 改写，终极目标是彻底淘汰沿用多年的井号屏蔽系统。

为什么重要

我们认为，Roblox 这一步走得相当聪明。过去十几年来，多人在线游戏的违规词处理逻辑几乎全是粗暴的一刀切，要么打码要么整句吞掉，最后逼得正常玩家连正常交流都要猜谜。

用大模型做实时文本改写，本质上是把安全审核从一道冰冷的「阻拦门」变成了辅助协作的「方向盘」。对于玩家来说，尤其是那些高度依赖报点和配合的对局，终于不用再因为队友口癖严重而眼睁睁看着关键信息变成一堆井号。

但这里的隐患也很微妙。AI 实时理解并篡改别人说的话，极其容易引发新的误会。有时候语气词里的焦躁本身就是游戏情绪的一部分，改写如果过于生硬或者曲解了原意，甚至可能造成更严重的沟通灾难。

而且让大模型介入实时游戏聊天，对算力和延迟的要求极高。Roblox 限制了使用人群和场景，显然也是在成本、时延和准确率之间做出的妥协。不过如果这个模式跑通，很可能会逼着其他被祖安文化困扰的大型联机游戏，集体放弃老旧的黑名单过滤方案。