ソニーAIが「FHIBE」をNatureで発表：1万枚以上の同意済み画像でAIの偏見を測定

顔認識や自動運転車をはじめとするコンピュータビジョン技術には、長年ある根深い問題がつきまとっていました。ネット上から無断で収集された大量の写真で学習されたモデルが多く、性別や人種に関する偏見やステレオタイプをそのまま引き継いでしまう点です。

こうした課題に対し、ソニーAIの研究チームは今週、AIのバイアスを公正に評価するための新データセット「FHIBE」を英科学誌Natureで発表しました。

許諾を得た1万枚超の人物画像

FHIBEは、Fair Human-Centric Image Benchmarkの略称です。ソニーAIのAlice Xiang氏らが開発を主導しました。

データセットには、世界81の国や地域から集まった1981人、計1万318枚の画像が収録されています。

最大の特徴は、徹底したインフォームドコンセントに基づいている点です。参加者にはプロジェクトの内容や潜在的なリスクが事前に説明され、厳格なデータ保護法を遵守する形で合意が取られています。

自主申告による高精度な属性データ

従来のデータセットでは、第三者の作業者が写真の見た目だけで人種や性別を推測してラベル付けすることが一般的でした。

それに対しFHIBEでは、年齢、代名詞のカテゴリ、祖先のルーツ、肌や髪の色といった属性を、被写体本人が自己申告する仕組みを採用しています。

研究チームが既存の27種類のコンピュータビジョン用データセットと比較したところ、FHIBEは多様性、同意の厳密さ、バイアス軽減能力のいずれにおいても高い水準を記録しました。これまで十分に反映されてこなかったマイノリティ層の割合も顕著に高くなっています。

著者らは、このデータセットの構築には多大な労力と費用がかかったことを認めたうえで、より信頼できるAIの実現に向けた大きな一歩になると述べています。

なぜ重要か

私たちは、ソニーAIのこの取り組みを非常に堅実で、業界の急所を突いたものだと評価しています。

画像認識AIを開発する現場では、自社モデルにどんな偏見が潜んでいるかを確かめたくても、テスト用の物差し自体が歪んでいるというジレンマがありました。FHIBEは、法的なリスクがなく、本人の申告に基づいた精度の高い評価基準を提供してくれるため、信頼性の高いビジョンAIを作りたい開発者にとって今すぐ試す価値のあるツールとなります。

業界全体にとっても、ウェブ上の画像を無断スクレイピングして済ませていた時代への強い牽制になります。データ保護規制が世界的に厳格化するなか、合意に基づかないデータに依存したAI開発は、早晩立ち行かなくなる可能性が高いからです。

一方で課題もあります。研究チーム自身が認めている通り、こうした倫理的プロセスの徹底には巨額のコストがかかります。巨大テック企業以外のスタートアップや個人開発者が、同じ水準のデータ調達や公平性検証をどこまで継続できるのかについては、依然として大きなハードルが残っています。