Google、Geminiの人物画像生成を数週間以内に再開へ 歴史的誤描写修正へ

アメリカ建国の父たちの画像を頼んだら、多様な人種のグループが出現した。歴史的な正確さを欠く画像生成が批判を浴び、Google は先週、Gemini による人物画像生成を停止しました。

MWC Barcelona の壇上に立った DeepMind 創業者のデミス・ハサビス氏は、この機能が今後数週間以内に復帰する見通しだと明かしました。

善意の機能が裏目に出た理由

モデレーターのスティーブン・レヴィ氏からの問いかけに対し、ハサビス氏は技術的な詳細を省きつつ、善意の機能が過剰に一律適用されてしまったと説明しました。

Google は世界 200 以上の国や地域にサービスを提供しています。犬の散歩をする人や看護師といった指示に対しては、利用者の背景を問わず幅広い可能性を示す普遍的な描写が求められます。

しかし、特定の歴史的人物に関する指示の場合、出力のバリエーションは当然狭くあるべきでした。システムがその文脈を判別できず、大雑把に多様性を強制してしまった形です。

ハサビス氏は歴史の正確さを重視していると強調し、修正作業を経て数週間以内に人物画像の生成を再開したいと述べました。

また、権威主義体制によるプロパガンダなど悪意ある利用への対策については、テック企業単独ではなく市民社会や政府を巻き込んだ議論が必要だと指摘しました。

オープンソース AI についても、現行システムは未熟だが、3 から 5 年後に自律的な計画立案能力を持つ次世代モデルが登場した際、悪用された場合のリスクは深刻になると警鐘を鳴らしました。

さらにハードウェアの将来像として、5 年後にはスマートフォンではなく、周囲の状況を視覚的に把握できるスマートグラスのような形状が普及する可能性にも触れました。

なぜ重要か

今回の騒動は、AI に人間の価値観を組み込むことの難しさを浮き彫りにしました。多様性を担保しようとするあまり、歴史的事実を無視する結果となり、企業としての信頼を損なう事態を招いています。

クリエイターやビジネス利用者の視点では、歴史や特定の文化背景に関わる画像生成において、AI が勝手にバイアス調整を施すリスクを再認識させられました。現時点でこの手の指示をそのまま商用利用するのは危険です。

私たちは、この失敗が業界全体におけるアライメント手法の見直しを加速させると考えています。プロンプトへの安易なルール追加による画一的な調整は限界を迎えており、文脈に応じた繊細な判断力をAI自体が備えられるかどうかが次の勝負所になります。