Grok Buildが全コードを無断アップロード、マスク氏が全削除を約束

イーロン・マスク率いる xAI の新しい開発者向けツールを試していた人は、今すぐサーバーのアクセスキーやパスワードを変更したほうがいいかもしれません。

AI セキュリティ研究グループの Cereblab が公表した調査結果によると、xAI のコマンドライン型コーディングツール「Grok Build」が、ユーザーのローカルにあるリポジトリ全体を Google Cloud Storage に無断でアップロードしていたことが判明しました。

問題なのは、単に現在の作業ファイルを送っていただけではない点です。過去にコミット履歴から削除したはずの機密情報やシークレット、さらにはツール側に開かないよう明示的に指示していたファイルまで丸ごとパッケージ化して送信していました。中にはホームディレクトリ全体が吸い上げられ、SSH 鍵やパスワードマネージャーのデータベースまでクラウドに上がってしまったユーザーもいたといいます。

緊急修正とマスク氏の全削除の約束

キングス・カレッジ・ロンドンの独立系セキュリティ研究者であるウカシュ・オレイニク博士は、このデータ保持は過剰であると指摘しています。漏洩の危険にさらされたデータには、プロプライエタリなソースコードだけでなく、未修正の脆弱性情報やインフラ構成の詳細、各種クレデンシャルが含まれるためです。

事態の発覚を受け、xAI はサーバー側の設定を変更しました。Cereblab の検証によると、サーバー側から disable_codebase_upload を有効にするフラグが返されるようになり、無断アップロードは停止したとのことです。

マスク氏は X 上で、Grok Build が過去にアップロードしたすべてのデータを完全に削除すると表明しました。一方で同氏はプライバシー設定は常に尊重されていると主張しつつ、デバッグに役立つためデータの保持を許可してほしいとも呼びかけています。

xAI 側は当初、CLI 内で /privacy コマンドを使えば保持を無効化して同期データを削除できると案内していました。しかし Cereblab は、このコマンドはセッションごとの設定にすぎず、今回のアップロード問題を止めたスイッチではないため対策として挙げるのは不適切だと反論しています。

なぜ重要か

今回の件は、AI 開発支援ツールの運用において最も踏み越えてはならない一線を越えてしまった事例だと私たちは考えています。

開発者や企業にとって、コードやクレデンシャルのローカル境界が守られないツールは導入のリスクが高すぎます。Anthropic の Claude Code などの競合ツールと比較しても、無視するよう指定されたファイルや Git の全履歴、さらにはホームディレクトリまで吸い上げる挙動はあまりにお粗末です。たとえマスク氏がデータ削除を約束したとしても、該当の環境で作業していた人は直ちに秘密鍵や API トークンをローテーションさせるべきです。

モデルの文脈理解力を高めたりバグ調査を容易にしたりするために、ユーザーの環境データをできる限り多く手元に集めたいという開発側の思惑は見え隠れします。しかし、安全性の担保を後回しにして裏で勝手に吸い上げるアプローチは、失う信頼の代償があまりにも大きすぎます。