xAI 推出 Grok 生图功能：几乎不设防，政客假图引监管担忧

过去一年里，主流大厂给 AI 画画设下的规矩越来越严，只要你提示词里带个政客名字或者稍微沾点敏感边，系统就会直接甩出一句抱歉。但马斯克的 xAI 显然不想按规矩出牌。

xAI 的聊天机器人 Grok 正式向 X Premium 订阅用户开放了文本生成图像功能。上线没几小时，整个社交平台就变成了一场失控的深伪派对。

问它规矩，它当场现编一套

新功能一开放，X 上的付费用户就开始疯狂测试底线。平台上迅速冒出了各种荒谬画面，比如奥巴马在吸食可卡因、特朗普和疑似哈里斯的怀孕女子站在一起，甚至还有两人拿枪互指的对峙图。

如果你直接在聊天框里问 Grok 有什么生图限制，它会回答得冠冕堂皇。它会向你保证自己严禁色情、过量暴力、仇恨言论以及侵犯版权的内容，甚至还会说自己会照顾文化敏感性。

但这些所谓规则更像是模型即兴编造的说辞。多次询问后，它给出的限制版本完全不同，而在实际操作中，这些护栏几乎形同虚设。

The Verge 亲自测试了一圈，结果让人吃惊。输入穿纳粹军服的特朗普、踩在警察头上的抗议者、比尔·盖茨在微软标识旁吸毒，甚至是奥巴马拿刀刺向拜登，Grok 全部毫不犹豫地生成了对应画面。

在反复测试里，Grok 真正明确拒绝的只有一句生成全裸女性的指令。但有 X 用户测试发现，稍微换点委婉的词汇，连这层唯一的底线也能被轻松绕过。

所有人都在踩刹车，只有他在狂踩油门

这种近乎裸奔的审核尺度，在硅谷头部科技公司里几乎是独一家。OpenAI 严禁生成真实公众人物形象，封杀纳粹符号，并且每张图都会打上防伪水印；Google 此前更是因为过度纠偏，直接把 Gemini 的人物生图功能给关停了。

虽然像开源的 Stable Diffusion 也能通过本地部署做到类似的事，但把一个毫无防护的生图工具直接集成到千万级流量的社交网络上，性质完全变了。

面对外界的质疑，马斯克本人倒是不以为意，他在 X 上表示这只是为了让大家找点乐子。但监管部门可不会觉得这很好笑。

眼下正值美国总统大选的关键阶段，深伪内容的泛滥极易引发政治动荡。与此同时，欧盟正在依据数字安全法调查 X，英国监管机构 Ofcom 也表态要将深度伪造纳入即将落地的网络安全法案监管中。

在这之前，X 平台就曾因泰勒·斯威夫特的伪造不雅照疯传而焦头烂额，甚至一度直接锁死了相关搜索词。如今官方自己把水龙头拧开，无异于主动惹火上身。

为什么重要

对于普通用户和创作者来说，Grok 现在的生图功能更像是一个刺激的玩具，而不是严肃的生产力工具。不用顾忌版权和公众人物肖像权确实很自由，但生成的图像完全无法商用，把这些极具侵权风险的内容发在公开社交媒体上，法律责任最后还得用户自己扛。

对 AI 行业而言，xAI 正在破坏大厂之间好不容易建立起来的安全默契。这种毫无顾忌的发布策略，很可能会倒逼各国监管机构加快出台更激进的强制审查法规，甚至可能连带影响到那些原本在自律的正常开发者。

我们认为，马斯克走这一步棋看似是在践行他的绝对言论自由，或者想以此拉动 X 的付费会员收入，但隐患远大于收益。在极度宽松的审核环境下，虚假信息和低俗内容会加速恶化平台的声誉，这只会让原本就在犹豫的品牌广告主逃得更快，最后给平台留下一地合规与诉讼的烂摊子。