イタリア当局がChatGPTの一時禁止を命令、プライバシー侵害の疑いで調査へ

生成AIブームに世界中が沸く中、西側諸国で初となる明確な規制の鉄槌が下されました。

イタリアのデータ保護当局は金曜日、プライバシー侵害の疑いを理由に、OpenAIが提供するChatGPTのイタリア国内における利用を一時的に禁止し、同社に対する調査を開始するよう命じました。同ツールがEUの一般データ保護規則（GDPR）を遵守するまで、イタリア国内ユーザーのデータ処理が即座にブロックされます。

OpenAIはこれを受け、イタリアからのアクセスを遮断しました。一方で同社広報担当者は当局の指摘に異議を唱え、GDPRや他のプライバシー法を遵守していると主張しています。CEOのSam Altman氏もTwitterでイタリア政府の判断に従う姿勢を示しつつ、「イタリアは大好きな国の一つだ」と投稿しました。

突きつけられた4つの問題点

イタリア当局が指摘した問題は、主に4点に分かれています。

最大の争点は、学習データの収集に法的根拠が欠けているという点です。ChatGPTのアルゴリズムを訓練するために個人データを大量に収集・保管することを正当化する法的根拠が存在しないと当局は主張しています。

さらに、モデルが事実と異なる不正確な情報を出力することも、個人データ処理の観点から問題視されました。

また、先週発生したデータ侵害によりユーザーの会話履歴や決済情報が漏洩した事故も理由に挙げられています。これに加えて年齢確認の仕組みがなく、未成年者の心身の発達段階にそぐわない回答に晒されている点も厳しく追及されました。

大西洋の両岸では、AIへの懸念が急速に高まっています。3月30日には消費者団体BEUCがEUおよび各国当局に調査を要請し、今週はElon Musk氏ら多数の専門家が開発の一時停止を求める署名を公開していました。

20日間の猶予と巨額の制裁金

OpenAIはEU域内に拠点を構えていませんが、欧州経済領域（EEA）の代理人に対し、20日以内に改善策を報告するよう通告が出されました。

もし期限内にプライバシー規則への適合計画を示せなければ、世界年間売上高の最大4パーセントに相当する多額の罰金が科される可能性があります。

なぜ重要か

イタリア当局によるこの電撃的な利用停止命令は、AI業界全体にとって重大な転換点になると私たちは考えます。

イタリアの一般ユーザーや開発者にとっては、業務に浸透しつつあったツールが突然使えなくなる実害が発生しました。VPNなどを経由しない限り利用できず、外部APIに依存したサービス設計のリスクが浮き彫りになっています。

業界全体への影響として最も懸念されるのは、他のEU加盟国への連鎖です。GDPRを武器にしたデータ保護当局の包囲網が広がれば、欧州全域でサービス停止に追い込まれるシナリオも否定できません。

年齢確認やデータ漏洩の防止策は技術的に対応可能ですが、ウェブ全体のデータを無断で収集して訓練するという大規模言語モデルの根幹手法そのものが違法と判断された場合、根本的な解決は困難です。AI企業が無秩序に学習データをかき集める時代は、欧州において終わりを迎えつつあるように見えます。