Apple、社内でのChatGPTやCopilot利用を制限　機密流出を懸念

OpenAIが今週、待望のChatGPT公式iOSアプリをリリースしたばかりですが、その足元でApple自身の従業員には厳しい利用制限が通達されていました。

The Wall Street Journalの報道によると、Appleは機密情報の漏洩や収集を警戒し、従業員に対してChatGPTなどの外部生成AIツールの利用を制限しました。対象にはGitHubのAIプログラミング支援ツール「Copilot」も含まれています。BloombergのMark Gurman記者によると、ChatGPTはここ最近急に禁止されたわけではなく、すでに数カ月前からAppleの制限対象ソフトウェアリストに入っていたといいます。

なぜAppleはここまで神経質になるのか

理由は極めてシンプルで、データ管理のリスクです。

デフォルト設定のChatGPTは、ユーザーとの会話履歴を自社AIモデルのトレーニングデータとして保存します。さらに利用規約違反を監視するため、OpenAIのレビュアーが会話内容を目視で確認する仕組みになっています。

OpenAIは4月にチャット履歴をオフにするプライバシー設定を追加しました。しかしこの設定を有効にしても、不正利用の監視名目でデータは30日間サーバーに保持され、その後にようやく完全削除されます。

エンジニアがバグ取りのためにコードを貼り付けたり、プランナーが未発表製品のアイデア出しに使ったりすれば、Appleの最高機密が外部サーバーに筒抜けになるリスクがあります。言語モデルとの対話を通じてトレーニングデータを抽出できる可能性を指摘する研究もあり、ChatGPT自体の脆弱性が確認されていないとはいえ、秘密主義を貫くAppleがリスクを冒す理由はありません。

社内での生成AI利用を禁止しているのはAppleだけではありません。すでにJPMorgan、Verizon、Amazonといった大手企業も同様の制限を導入しています。

なぜ重要か

私たちは、今回の措置が「消費者向けAIブーム」と「エンタープライズのセキュリティ要件」の間に横たわる深い溝を浮き彫りにしたと考えています。

App StoreではChatGPTアプリの配信を歓迎しながら、自社の開発現場では固く締め出すという構図は一見矛盾しているようにも映ります。しかし、未発表ハードウェアやOSのコードを扱う立場からすれば、OpenAIのデータ保持ポリシーはあまりにリスクが高すぎます。

一般の開発者やビジネスパーソンにとっても、これは対岸の火事ではありません。業務効率化のために社内資料や顧客情報をそのままWeb版AIに入力している場合、知らず知らずのうちに機密情報を外部に提供している可能性があります。

AI業界全体にとっても、大手企業からの相次ぐ拒絶は大きなプレッシャーになります。エンタープライズ領域で本格的に普及させるには、会話ログを一切残さない完全なデータ分離やプライベート環境の提供が不可欠です。それらが整備されない限り、巨大テック企業が生成AIを基幹業務に迎え入れる日はまだ遠いと言えます。