Geminiの画像生成が炎上：Googleが人物描写機能を一時停止し謝罪

歴史上の人物を描かせようとしたら、史実とはまったく異なる人種で出力される。そんな奇妙な挙動が波紋を広げ、Google が対応に追われる事態となりました。

Google は、対話型 AI「Gemini」に約 3 週間前に導入したばかりの人物画像生成機能を一時停止したと発表しました。背景には、歴史的な文脈を無視した画像が生成されたり、特定のプロンプトを拒絶したりするケースが多発し、ネット上で強い批判を浴びたことがあります。

多様性の配慮が生んだ過剰補正

Gemini の画像生成機能は「Imagen 2」をベースに構築されています。開発チームは、従来の生成 AI で問題視されてきた暴力表現や特定の人種偏見を避けるため、多様性を意識したチューニングを施していました。

「サッカー選手」や「犬の散歩をする人」を指示された場合、多様な人種を出すのは自然な配慮です。しかし Google によると、失敗の原因は主に 2 点ありました。

1 点目は、多様性を反映すべきではない「史実に基づく場面」を正しく判別できなかったことです。2 点目は、安全対策を強めるあまりモデルが過度に慎重になり、無害なプロンプトまで敏感な表現と誤認して拒絶した結果、特定のケースで極端な過剰補正が発生したことです。

なぜ重要か

今回の騒動は、AI の安全性や公平性を保つことの難しさを浮き彫りにしました。

利用者にとって、指示した文脈を理解せずに独自の配慮を押しつけてくるツールは、仕事や創作では安心して使えません。Google が即座に機能を止めた判断は妥当ですが、文脈判断ができないままルールだけを強引に適用した設計の甘さを露呈したと言えます。

業界全体にとっても大きな教訓です。OpenAI や Midjourney などとの開発競争が激化するなか、倫理的なリスクを回避しようとするあまり「使い物にならないガードレール」を設けてしまう危険性を示しました。歴史的正確性と現代的な多様性への配慮を両立させることは、単なるフィルター設定ではなく、高度な文脈理解が不可欠であることを改めて証明しています。