Gemini 生圖翻車遭批：Google 緊急叫停人物影像生成並道歉

如果你想讓 AI 畫幾個二戰時期計程車兵，或者美國建國先賢，結果螢幕上全是一臉嚴肅的少數族裔面孔，你大概會愣住。

這正是 Google Gemini 最近遇到的尷尬事。上線才三週的人像生成功能，因為畫出來的歷史人物和特定群體過於違和，在網上引發了巨大爭議，甚至被不少使用者指責為“反白人”。面對鋪天蓋地的聲討，Google 決定先拔掉網線，暫停了 Gemini 生成人物影像的功能，並由高階副總裁專門發文承認搞砸了。

機器用力過猛，把歷史改寫了

按 Google 官方的解釋，Gemini 的影像生成能力是基於自家的 Imagen 2 模型打造的。工程師最初的目標其實很美好，他們希望避免以往 AI 經常掉進去的坑，比如生成暴力、色情內容，或者在畫“足球運動員”“遛狗的人”時千篇一律全是單一族裔。

全球使用者都在用，多給一點多樣性選擇本來沒問題。但問題出在兩件事上。

第一件事是模型在調整時失算了。Google 希望模型展現多元化，卻沒有教會它識別“什麼時候絕對不能多元化”。當用戶請求具有特定歷史背景的人物時，演算法依然強行插入多樣性，結果就誕生了一批荒唐且嚴重失實的歷史畫像。

第二件事是模型變得過於保守。隨著安全限制不斷疊加，Gemini 開始誤判大量正常的提示詞，把普通的描述當成了敏感詞。很多本該正常響應的請求被直接拒絕，而在能響應的地方，它又開始過度補償。

為什麼重要

這起事故表面上是一次公關災難，但往深了看，它暴露了大公司在 AI 對齊上的巨大兩難。

對於日常用 AI 的人來說，這類工具一旦在常識和歷史準確性上翻車，信任就會直接被打破。我們認為，Google 這次不得不暫停功能，等於承認了當前的規則過濾手段太粗糙。他們以為加一層多元化濾鏡是政治正確，結果卻變成了用現代觀念硬套歷史事實。

從行業競爭來看，Google 這一跤摔得很重。在影像生成領域，OpenAI 的 DALL-E 3 和 Midjourney 已經跑在前面，Google 本想靠 Gemini 證明自己的多模態能力，結果卻因為安全調校翻了車。這會逼得所有做生成式模型的團隊重新審視自己的對齊策略：把模型管得太死，就會變得像個死板又滑稽的應聲蟲；管得太鬆，又有合規風險。

看起來，在解決幻覺和文化語境的理解問題之前，AI 很難真正做到既聰明又聽話。Google 建議使用者查嚴肅資訊還是去用 Google Search，這話聽著務實，但在主打全能的 AI 時代，未免顯得有些底氣不足。