オラクル会長のエリソン氏、AIが全市民を常時監視する未来を予測

街を歩けば、防犯カメラやスマートドアホンに見守られているような感覚を覚える時代になりました。しかし、Oracleの共同創業者兼CTOであるラリー・エリソン氏によれば、それは監視社会のほんの始まりに過ぎないようです。

エリソン氏はOracleのアナリスト向け会合で、AIを活用した法執行機関向けの巨大な監視網構想を語りました。同氏によれば、あらゆる行動が常時記録・報告されることで、市民は最も行儀良く振る舞うようになるといいます。

ボディカメラから追跡ドローンまで常時監視

エリソン氏が描く構想では、街中の防犯カメラ、警察官のボディカメラ、家庭用ドアホンカメラ、車載ダッシュカムなど、膨大な映像がAIによってリアルタイムで分析されます。

この監視は市民だけでなく、警察官自身にも向けられます。同氏は、すべての警察官が常にAIによって監視され、問題が生じた際には適切な担当者へ自動的に報告されると説明しました。

また、危険なパトカーによるカーチェイスも、自律飛行型ドローンが追尾する形に代わると予測しています。自動ドローンの時代になれば、対象の車両を上空から追跡するだけで済むため非常にシンプルだという主張です。

資産総額1570億ドルを誇るエリソン氏率いるOracleは、イーロン・マスク氏のSpaceXとの連携など、現在AI領域での事業拡大を猛烈な勢いで進めています。

過去のデータが抱える偏見の壁

AIによる常時監視が犯罪抑止につながるという見解には、根強い懸念と反証があります。

米国の警察データには歴史的な偏りがあり、それをそのままAIモデルに学習させれば、特定地域で犯罪が多発しているという偏った結論を導き出し、人種や社会経済的な偏見を強める悪循環を生む恐れが指摘されています。

実際、2019年にはロサンゼルス市警察が導入していた犯罪予測プログラムが停止されました。監査の結果、黒人やラテン系住民に対する監視過剰を招いていたことが判明したためです。

なぜ重要か

私たちは、この発言を単なる未来予測ではなく、クラウド大手が目指す公共監視ビジネスの営業トークと捉えるべきだと考えています。家庭用ドアホンやドライブレコーダーの映像までクラウド上で常時処理できるようになれば、Oracleのようなインフラ提供者にとっては極めて莫大な需要になります。

警察の不正を防ぐと同時に市民の犯罪も防ぐという論理は一見合理的に聞こえますが、プライベートな生活空間が事実上の監視網に組み込まれるリスクには目をつぶっています。

過去の教訓が示す通り、偏ったデータに基づくAI監視は特定コミュニティへの不当な圧迫を生みやすいのが現実です。技術的な検証や倫理的合意がないまま常時監視を推進すれば、安全性と引き換えに深刻な社会的摩擦を招くことになりかねません。