マイクロソフトのCopilot+「Recall」機能に英当局が調査着手、専門家はプライバシーリスクを懸念

数秒ごとにPCの画面を自動でスクリーンショットし、過去の行動を丸ごとAIで検索できるようにする。マイクロソフトが新しいCopilot+ PC向けに発表した「Recall（リコール）」機能が、発表直後から大きな波紋を広げています。

プライバシー専門家から「悪夢」と批判されるなか、早くも規制当局が動き出しました。英国のデータ保護機関である情報コミッショナーオフィス（ICO）は、ユーザーのプライバシーを保護するための安全策がどのように講じられているかを確認するため、マイクロソフトへの問い合わせを開始したと発表しました。

パスワードもそのまま保存される懸念

Recallは、ユーザーが過去に見たファイル、メール、ウェブサイトなどをAIで横断検索できる機能です。バックグラウンドで数秒おきに画面のスクリーンショットを撮影し、画像内のテキストや視覚情報を解析して検索可能なインデックスを作成します。

マイクロソフト側は、この機能が任意でオン・オフできる体験であり、データは端末内に暗号化されてローカル保存されると説明しています。クラウドに送信されることはなく、同社がアクセスすることもできないため、ハッカーがデータを盗むには端末への物理的なアクセスとサインインが必要だと安全性を強調しています。また、特定のウェブサイトの記録を除外したり、Edgeブラウザのプライベート閲覧時はキャプチャを停止する設定も用意されています。

しかし専門家が特に危険視しているのは、保存されるデータの内容です。マイクロソフト自身が認めているように、Recallはパスワードや銀行口座番号、医療記録といった極めて機微な情報を自動で除外したり、マスキングしたりすることはありません。

Mozillaのプライバシー責任者であるJen Caltrider氏は、バスの中で見知らぬ人たちに見せられないような作業は、このPCでは絶対にやりたくないと指摘しています。Keystone LawのDaniel Tozer氏も、ディストピアを描いたドラマ「ブラック・ミラー」のようだと述べ、職場での機密保持やビデオ通話相手の同意取得など、法的な課題も山積みだと警鐘を鳴らしています。

なぜ重要か

一般ユーザーや機密情報を扱うビジネスパーソンにとって、「昔見たものをすぐ探せる」という利便性に対して、支払う代償が大きすぎると言えます。パスワードや口座情報が無防備なスクリーンショットとして蓄積される仕様である以上、端末を誰かと共有したり盗難に遭ったりした際のリスクは計り知れません。現時点では安易に有効化すべきではないと考えられます。

業界全体にとっても、オンデバイスAIの信頼性を巡る大きな試金石となります。マイクロソフトはCopilot+ PCの最大の目玉としてこの機能を打ち出しましたが、英国ICOの調査介入により、各国当局の監視の目が一気に厳しくなるはずです。他社が端末内AIを活用する際にも、同意の取り方やデータの取り扱いに極めて慎重な対応が迫られることになります。

マイクロソフトの狙い自体は、クラウドにデータを上げずにローカル処理で完結させるという点で理にかなっていました。しかし、常時スクリーンショットを撮られることに対する心理的嫌悪感を軽視し、パスワードなどの自動マスキングすら実装しなかったのは、製品設計として大きな落ち度だったと見えます。どれほど便利な機能であっても、ユーザーに「監視されている」と感じさせた時点で、普及のハードルは一気に上がってしまいます。