マイクロソフト、米警察によるAzure OpenAIの顔認識利用を禁止

警察官のボディカメラに最先端の生成AIを載せる試みが広がるなか、大手プラウドベンダーがその境界線を明確に引き直しました。

マイクロソフトは、企業向けAI基盤であるAzure OpenAI Serviceの利用規約を改定し、米国の警察機関が同サービスを顔認識用途に利用することを禁止しました。

規約には、現在および将来提供される画像分析モデルを含め、米国の警察機関による、または警察機関のための顔認識機能の統合を禁じることが明記されています。

街頭でのリアルタイム識別を世界規模で遮断

今回の改定で特に目を引くのは、米国にとどまらないグローバルな規制条項が盛り込まれた点です。

世界中のあらゆる法執行機関を対象として、ボディカメラや車載ダッシュボードカメラなどの移動体カメラを使い、街頭などの制御されていない環境でリアルタイムに個人を特定する顔認識技術の利用を全面的に禁止しました。

規約更新の直後、一部では警察によるAzure OpenAIの利用そのものが全面禁止されたと受け止められましたが、マイクロソフトは後に、当初の文面に誤りがあったと説明しました。禁止対象はあくまで顔認識であり、警察機関が事務処理や文書作成などに同サービスを使うこと自体を禁じたわけではありません。

この動きの背景には、法執行機関向け機器大手のアクソン（Axon）が、GPT-4を活用してボディカメラの音声から報告書を自動生成する新製品を発表したことがあります。生成AIのハルシネーション（事実誤認）や、訓練データに起因する人種的バイアスが捜査報告書に紛れ込むリスクを懸念する声が上がっていました。

軍や防衛分野との距離感

今回の規約改定は一見厳しい姿勢に見えますが、防衛や公共分野の巨大市場から手を引くわけではありません。

顔認識の全面禁止は米国の警察に限定されており、オフィス内など管理された環境にある固定カメラでの顔照合や、米国外の警察による一部用途には抜け道が残されています。

マイクロソフトとパートナーであるOpenAIは、近年むしろ防衛契約に接近しています。今年1月にはOpenAIがサイバーセキュリティ分野で米国防総省と協業していることが報じられたほか、マイクロソフト自身もDALL-Eを軍事作戦支援ソフトウェアに活用する提案を行っていたと伝えられています。2月には政府専用クラウドであるAzure GovernmentでもAzure OpenAIが利用可能になっており、さらなる任務承認を進める方針が示されています。

なぜ重要か

私たちは、マイクロソフトが極めて現実的な落としどころを選択したと見ています。

市民の権利という観点から見れば、移動式カメラによる街頭でのリアルタイム顔認識を禁止した意義は大きいです。誤認逮捕や不当な職務質問に直結しやすい最も危険なユースケースについて、プラットフォーマー側が自社の最上位モデルを使わせないと明言したからです。

一方で業界の構造として見ると、マイクロソフトは世論の反発が最も強い生体監視からは距離を置きつつ、報告書作成や防衛支援といった巨大な公共契約はしっかり確保する方針を固めつつあります。AIの倫理ガイドラインを厳格化しながら、政府向けクラウド事業の成長を止めないための巧みな線引きと言えます。

ただし、この規制がどこまで実効性を持つかには疑問も残ります。ハードウェアメーカーがAzureを離れ、オープンソースの視覚モデルをデバイス上で直接動かすようになれば、クラウド側の規約だけで現場の暴走を防ぐことは難しくなるはずです。