Gemini 生图翻车遭批：Google 紧急叫停人物图像生成并道歉

如果你想让 AI 画几个二战时期的士兵，或者美国建国先贤，结果屏幕上全是一脸严肃的少数族裔面孔，你大概会愣住。

这正是 Google Gemini 最近遇到的尴尬事。上线才三周的人像生成功能，因为画出来的历史人物和特定群体过于违和，在网上引发了巨大争议，甚至被不少用户指责为“反白人”。面对铺天盖地的声讨，Google 决定先拔掉网线，暂停了 Gemini 生成人物图像的功能，并由高级副总裁专门发文承认搞砸了。

机器用力过猛，把历史改写了

按 Google 官方的解释，Gemini 的图像生成能力是基于自家的 Imagen 2 模型打造的。工程师最初的目标其实很美好，他们希望避免以往 AI 经常掉进去的坑，比如生成暴力、色情内容，或者在画“足球运动员”“遛狗的人”时千篇一律全是单一族裔。

全球用户都在用，多给一点多样性选择本来没问题。但问题出在两件事上。

第一件事是模型在调整时失算了。Google 希望模型展现多元化，却没有教会它识别“什么时候绝对不能多元化”。当用户请求具有特定历史背景的人物时，算法依然强行插入多样性，结果就诞生了一批荒唐且严重失实的历史画像。

第二件事是模型变得过于保守。随着安全限制不断叠加，Gemini 开始误判大量正常的提示词，把普通的描述当成了敏感词。很多本该正常响应的请求被直接拒绝，而在能响应的地方，它又开始过度补偿。

为什么重要

这起事故表面上是一次公关灾难，但往深了看，它暴露了大公司在 AI 对齐上的巨大两难。

对于日常用 AI 的人来说，这类工具一旦在常识和历史准确性上翻车，信任就会直接被打破。我们认为，Google 这次不得不暂停功能，等于承认了当前的规则过滤手段太粗糙。他们以为加一层多元化滤镜是政治正确，结果却变成了用现代观念硬套历史事实。

从行业竞争来看，Google 这一跤摔得很重。在图像生成领域，OpenAI 的 DALL-E 3 和 Midjourney 已经跑在前面，Google 本想靠 Gemini 证明自己的多模态能力，结果却因为安全调校翻了车。这会逼得所有做生成式模型的团队重新审视自己的对齐策略：把模型管得太死，就会变得像个死板又滑稽的应声虫；管得太松，又有合规风险。

看起来，在解决幻觉和文化语境的理解问题之前，AI 很难真正做到既聪明又听话。Google 建议用户查严肃信息还是去用 Google Search，这话听着务实，但在主打全能的 AI 时代，未免显得有些底气不足。