Adobe Firefly、歴史描写でGoogle Geminiと同様の偏向問題が発生

先月、GoogleのAI「Gemini」が黒人のナチス兵士や米国の建国神話を黒人として描写し、歴史的正確性に欠けるとして画像生成機能の停止に追い込まれました。当時、批判の矛先は主に同社の企業文化に向けられていました。

しかし、同じ過ちを犯していたのはGoogleだけではありませんでした。ニュースメディアのSemaforが検証したところ、Adobeの画像生成AI「Firefly」でも酷似した現象が発生することが判明しました。

異なる学習データ、同じつまずき

SemaforがGeminiで問題視されたのと同様のプロンプトをFireflyに入力したところ、第二次世界大戦でナチスドイツ軍として戦う黒人兵士や、1787年の米国憲法制定会議に黒人の男女が参加している画像が生成されました。さらに白人の老人のコミックキャラクターを要求した際には、白人男性のほかに黒人男性、黒人女性、白人女性のバリエーションが提示されたといいます。

注目すべきは、両社のモデルの成り立ちが根本から異なる点です。Googleがウェブ全体のデータを活用してきたのに対し、Adobeは商用利用の安全性を売りにしており、自社のAdobe Stockやライセンス契約済み画像、パブリックドメインのデータのみで学習させています。

それにもかかわらず結果が一致したのは、偏見を排除するための安全対策が裏目に出ているためです。開発側は差別的なステレオタイプを避けるため、システムプロンプトの裏側で多様な人種を含める指示を挟み込む手法をとっていますが、AIはそれが歴史的文脈に合致しているかどうかを判断できません。

実際、昨年5月の時点でAdobeのユーザーコミュニティでは、指定通りのキャラクターが出力されず強制的に人種が分散されることへの不満が投稿されていました。

Adobeは声明で、Fireflyは自然な創造性を支援するツールであり、歴史的出来事の写実的描写を意図したものではないと説明しました。意図せず不正確な画像が生成されたことを認め、フィードバックをもとにフィルターの調整や再学習を進めるとしています。

なぜ重要か

今回の事例は、画像生成AIの暴走が特定の企業の思想問題ではなく、業界全体が抱える技術的・運用の限界であることを示しています。

クリエイターにとって、プロンプトの見えない書き換えは制作のコントロールを奪う実務上の障害です。設定通りのキャラクターを描きたいだけなのに、AI側の勝手な配慮によって余計な修正作業を強いられることになります。歴史描写や厳密なビジュアル設計が求められる現場では、現行の商用ツールをそのまま信頼するのは依然としてリスクが高いと言えます。

業界全体にとっても、プロンプトの強制補正という安易な安全策が限界を迎えたことを意味しています。文脈のニュアンスを深く理解できないモデルに表層的なルールを被せるだけでは、偏見の防止と正確性の担保の両立は不可能です。見かけの配慮を優先するあまり道具としての信頼性を損なう構造に、各社はどう向き合うのかが問われています。