米Microsoft、AI生成の性的画像対策を強化　OneDriveやXboxにもハッシュ照合を拡大

同意のないプライベートな性的画像（NCII）がネット上に流出した際、被害者を最も苦しめるのは煩雑で精神的負担の大きい通報手続きです。

マイクロソフトは5月27日、こうした被害への対策を大幅に強化すると発表しました。対象には実写画像だけでなく、AIで生成された精巧な偽造画像も同等に含まれます。

今回の改定では、通報窓口の刷新と、主要な個人向けサービス全体への検出技術の拡大が柱となっています。

クラウドやXboxにもハッシュ照合を展開

マイクロソフトは2年前、被害対策プラットフォーム「StopNCII.org」に対し、改良版のPhotoDNA技術を提供しました。この仕組みの利点は、手元の端末から画像を外部送信することなく、安全にデジタル指紋（ハッシュ値）を作成できる点にあります。

同社は2024年9月から検索エンジンBingでこのハッシュを用いた試験運用を行っていましたが、今回その適用先をTeams Free、OneDrive、Xboxなどの一般向け主要サービスへ正式に拡大しました。

登録されたハッシュと一致した場合、システムによる迅速な削除が進められます。一方で誤検知を防ぐため、適切な自動化と並行して人手による審査や異議申し立ての窓口も維持されます。

通報フォームも刷新され、実写かAI生成かを問わず一貫した基準で迅速に対処できる導線が整えられました。さらに英国のNGOであるChildnetと連携し、若年層に向けたAI悪用防止教材を制作し、英国のほか日本、韓国、シンガポールでもローカライズ展開を開始しています。

なぜ重要か

ユーザーにとって、端末内で生成したハッシュを用いてOneDriveやゲームコミュニティといった身近なサービスから被害画像を遮断できる意義は非常に大きいです。自らのプライベートなデータを第三者のサーバーにアップロードして確認させる必要がないため、被害申告のハードルが大幅に下がります。

業界全体で見ても、プラットフォーム側の責任範囲が大きく押し広げられました。今月は米国で「Take It Down Act」が施行され、欧州連合（EU）でも裸体化アプリへの規制が進み、英国Ofcomも法執行を強めています。AI製ディープフェイクを実写被害と完全に同じ基準で扱う方針を打ち出したことで、他のクラウドやSNS事業者も同様の厳格な対応を迫られることになります。

もっとも、この対策は「すでに登録されたハッシュが存在する画像」にしか事前に機能しません。被害者が気付かないままプライベートなコミュニティ内で流通している新規のAI生成画像については、依然として発見と対処の後手に回るリスクが残されていると私たちは考えます。