Meta、広告配信の差別を防ぐAIシステム「VRS」を米国で導入

住宅の賃貸や購入の広告が、ユーザーの閲覧履歴や興味関心によって特定の人種に偏って配信されていたとしたらどうでしょうか。

米司法省および住宅都市開発省との訴訟和解を受け、Meta は広告配信における差別を防止する新たな AI システム「Variance Reduction System（VRS）」を米国内で正式に導入しました。

アルゴリズムの偏りを機械学習で補正する

ターゲット設定で人種や性別を直接指定できなくても、ユーザーの行動履歴や興味によって広告配信が特定層に偏ってしまう問題は長年指摘されてきました。

今回導入された VRS は、広告が一定数のユーザーに表示された後、実際に閲覧した層の人口動態分布を機械学習で測定します。

人種や民族の推定には、名前と地理情報を統計的に処理する手法（BISG）を用い、プライバシー保護の仕組みも組み込まれています。配信結果が本来のターゲット層の人口動態から乖離している場合、システムが介入して偏りを減らすよう配信バランスを調整します。

このシステムはまず住宅広告に適用され、将来的には雇用や信用の広告にも拡大される計画です。

初の司法監視下に置かれた広告配信

今回の施策は、2022 年 6 月にマンハッタン連邦裁判所で合意された和解条件に基づくものです。

報道によると、Meta の広告配信システムが裁判所の監視対象になるのは史上初めてのことです。外部の独立機関である Guidehouse が VRS の有効性を検証し、必要に応じて評価基準の見直しを求める権限を持っています。

司法省のクリステン・クラーク次官補は、アルゴリズムによる差別も公民権法違反にあたり、企業に責任を負わせる強いシグナルになると述べています。

なぜ重要か

一般のユーザーにとって、住宅や求人といった生活の基盤に関わる情報が、本人の知らないところでアルゴリズムによって遮断されるリスクを抑えられる点は大きな前進です。画面上の見た目は変わりませんが、裏側の公平性を担保する試みと言えます。

アドテク業界全体にとっても、転換点になります。クリック率やコンバージョン率の最大化だけを追求する時代は終わり、配信結果の人口動態的な公平性が規制対象になる前例が作られました。

機械学習の偏りを機械学習で是正するというアプローチ自体は現実的ですが、差別がないことを証明するためにユーザーの人種や民族を推定しなければならないという本質的なジレンマも抱えています。プライバシー保護策を講じているとはいえ、大手プラットフォームが属性を推計することへの警戒感は今後も議論を呼びそうです。