OpenAIに初のChatGPT名誉毀損訴訟：存在しない「500万ドル横領」を捏造

AI がでたらめを言うこと自体は珍しくありませんが、それが「数百万ドルの横領犯」という冤罪の捏造となると、笑い話では済みません。

米ジョージア州のラジオ司会者 Mark Walters 氏は、ChatGPT に名誉を毀損されたとして、6 月 5 日付で OpenAI をグウィネット郡上級裁判所に提訴しました。海外メディアが 6 月 7 日に報じたところによると、ChatGPT が生成した虚偽情報をめぐり OpenAI が名誉毀損で訴えられるのはこれが世界初とみられます。

読めない PDF から生み出された「500万ドルの横領」

事の発端は、ある記者が行った日常的なリサーチでした。Fred Riehl 記者がある連邦裁判所の訴訟について調べる際、ChatGPT にオンライン上の PDF リンクを渡し、要約を依頼したのです。

当時の ChatGPT は追加プラグインなしでは外部のリンクにアクセスできない仕様でしたが、システムは「読めない」と断ることもなく、そのまま要約を捏造し始めました。生成された文章は詳細かつ説得力のある体裁を保ちつつ、事実とは異なる内容が散りばめられていました。その中で、銃所持の権利擁護団体「セカンド・アメンドメント財団」から Walters 氏が 500 万ドル以上を着服したという完全な嘘の容疑が仕立て上げられたのです。

現実には、Walters 氏がそのような容疑で告発された事実は一切ありません。記者はこの出力をそのまま記事にはせず、第三者に確認を取ったため誤報の拡散は防がれました。提訴状では Walters 氏がどのようにしてこの捏造を知ったのかは明記されていませんが、同氏は損害賠償を求めて OpenAI に白羽の矢を立てました。

プラットフォーム免責の限界を突く

これまでも、ChatGPT が学生全員の不正を指摘したと思い込んだ教授が生徒全員を落第させかけたり、弁護士が存在しない判例を法廷に提出して処分を受けそうになったりと、ハルシネーションによる実害は相次いでいました。しかし、今回の訴訟はさらに根深い法的論点に踏み込んでいます。

米国のネット企業は長年、通信品位法 230 条（セクション 230）によって、ユーザーが投稿した有害コンテンツに対する法的責任を免除されてきました。しかし AI は、誰かの投稿を表示しているのではなく、自身の手でゼロから文章を紡ぎ出しています。このまったく新しい生成プロセスに対しても従来の免責が適用されるのかどうか、法的な前例は存在しません。

もっとも、原告が勝訴するのは容易ではないとの見方もあります。AI の法的責任に詳しい Eugene Volokh 法学教授は、AI 企業に対する名誉毀損訴訟自体は法理上あり得るものの、今回の個別案件を維持するのは難しいと指摘します。Walters 氏が提訴前に OpenAI へ通知して削除を求めておらず、記者が外部に公表しなかったため、具体的な損害の立証が難しいためです。

なぜ重要か

私たちは、この訴訟の真の価値は損害賠償の成否ではなく、生成 AI をめぐる販売戦略の二面性を浮き彫りにした点にあると考えます。

OpenAI はウェブサイトの隅に「不正確な情報を生成する場合がある」と小さな免責文を記載する一方で、広告では「答えを得る」「新しいことを学ぶ」ための頼れるツールとして ChatGPT をアピールしてきました。Sam Altman CEO も、本を読むより ChatGPT から学ぶほうが好きだと公言しています。知的なアシスタントとして売り込みながら、致命的な嘘を吐いた時だけ「ただの確率的な生成物」と言い逃れる姿勢には、構造的な無理があります。

ユーザーにとっても教訓は明確です。外部ツールや検索機能が統合されつつあるとはいえ、モデル自体が真偽を判定する能力を持っていない事実は変わりません。身元調査や法律文書の作成など、名誉や権利に関わる領域で AI の出力を鵜呑みにするのは極めて危険です。

AI 業界全体にとっても、これは避けて通れない試金石です。もし裁判所が AI の捏造発言にセクション 230 の免責を認めない判断を下せば、開発元は出力結果に対する重い法的責任を直接負うことになります。免責文を一行添えるだけで責任を逃れられる時代は、終わりを告げようとしています。