AI チャットの嘘で敗訴、エア・カナダに返金命令

カスタマーサポートのAIが客にデタラメな案内をした場合、企業はその責任を「AIの単独責任」として回避できるのか。カナダの裁判所が下した判断は、明確な「ノー」でした。

事の発端は2022年に遡ります。祖母の葬儀に出席するため、バンクーバーからトロントへの航空券を急ぎ手配する必要があったジェイク・モファット氏は、エア・カナダの公式サイト上でチャットボットに問い合わせを行いました。身内の不幸に伴う忌引割引が適用できるかを確認するためです。

チャットボットは、まず通常運賃で航空券を購入し、発券から90日以内にオンラインで申請すれば後から差額の払い戻しを受けられる、と案内しました。モファット氏はこの案内に従って搭乗しましたが、旅行後に払い戻しを申請したところ、航空会社側から拒否されてしまいました。

実際の同社規定では、すでに搭乗を終えた航空券に対して事後的に忌引割引を適用することは一切認めていなかったためです。

ボットは別個の法人という苦しい主張

モファット氏がチャットボットとのやり取りを記録したスクリーンショットを提示したところ、エア・カナダ側はボットが誤解を招く言葉を使ったことを認め、ソフトウェアを改修すると約束しました。しかし、返金ではなく今後のフライトで使える200カナダドルのクーポン券を提示するにとどまったため、同氏は少額訴訟を取り扱うカナダの民事解決審判所に提訴しました。

法廷でエア・カナダが展開した主張は、審判員に「注目すべき答弁」と評されるほど異様なものでした。同社は、チャットボットは自身のアクションに対して責任を負う独立した法的実体であり、会社側はその不正確な発言に責任を負わないと主張したのです。さらに、公式サイトの別ページに正しい規定が掲載されていたのだから、利用者はそちらを確認すべきだったと反論しました。

しかし、審判員のクリストファー・リバース氏はこの主張を一蹴しました。対話型の機能を持っているとはいえ、ボットはあくまでエア・カナダのウェブサイトの一部にすぎないと指摘。サイト内のあるページが正しく、別のツールの案内が正しくないなどと顧客が見分ける理由はどこにもなく、会社は自社サイト上のすべての情報に責任を負うべきだと結論づけました。

審判所はエア・カナダに対し、運賃の差額に相当する650.88カナダドルに加え、利息36.14ドルと裁判手数料125ドルの支払いを命じました。

なぜ重要か

この裁判は、生成AIや自動チャットボットの「ハルシネーション（もっともらしい嘘）」によって顧客が不利益を被った際、システムを導入した企業自身が全面的な法的責任を負うことを明確にした、世界でも最初期の重要判例です。

一般のユーザーにとっては非常に心強い前例となります。現在、あらゆる業界でサポート窓口の自動化が進んでいますが、AIが誤った約束をした場合でも「システムが勝手に言ったこと」として企業が逃げ切ることは法的に許されないという防波堤ができました。

一方で、コスト削減を目的にAIエージェントの導入を急ぐ企業にとっては大きな警告です。AIを独立した別個の法人と見なして責任転嫁を図ろうとしたエア・カナダの姿勢は、端から見ればあまりにも都合が良すぎる論理でした。

私たちは、この判決によって企業のAI導入に対するスタンスがより慎重かつ堅実な方向へ軌道修正されると見ています。AIに案内を任せる以上、ハルシネーションの防止や人間による確認プロセスの設計を怠れば、法的な損害賠償を直接背負い込むことになります。企業にとっては、導入の手軽さ以上にリスク管理の重みが増したと言えます。