3M爆発訴訟で証人がChatGPTで報告書作成：「過失0%と証明せよ」と指示

数千億円規模の賠償責任がかかった法廷で、自社が雇った専門家証人がChatGPTに責任逃れのレポート代筆を頼んでいたとしたら、弁護団にとっては最悪の悪夢です。

2020年に米テキサス州ヒューストンで起きた工場爆発事故をめぐる裁判で、まさにその事態が起きました。製造大手3Mに雇われた工学の専門家証人が、提出書類の大部分をAIに書かせたうえ、自らを免責するよう露骨に指示していたことが発覚したのです。

このずさんなAI利用は法廷で完全に裏目に出て、6100万ドルという巨額の評決につながりました。

AIに「過失ゼロを証明せよ」とプロンプト

問題となった訴訟は、ワトソン・グラインディング社の施設で発生した爆発事故をめぐるものです。3人が死亡し、周辺の住宅約200軒が破壊されました。

米化学物質安全性・有害性調査委員会によると、劣化して圧着不良を起こしたゴム製溶接ホースから可燃性ガスが漏洩したことが原因でした。被災した住民らは、ガス検知システムの適切な保守を怠ったなどとして3Mらを提訴していました。

自社の正当性を主張するため、3M側はエンジニアリング企業ナイトホークの専門家ジョシュ・オーテンリース氏を証人として起用しました。

しかし開示された記録によると、同氏が提出した専門家報告書の実に85パーセントから90パーセントがChatGPTによって作成されていました。

さらに致命的だったのはプロンプトの内容です。同氏はAIに対し、3Mの注意義務基準を擁護する優れたレポートの作成を求めただけでなく、爆発事故について3Mに0パーセントの過失しかないことを示せと明確に指示していました。

350ページの対話履歴が自爆の証拠に

米国の民事訴訟における証拠開示手続きは容赦がありません。同氏がChatGPTと交わした対話記録は、350ページにわたってすべて法廷に開示されました。

原告側の弁護士ウィル・モイエ氏はこの機会を逃さず、3M側の専門家であるオーテンリース氏を自側の証人として法廷に呼び出し、プロンプトの生々しい文言を突きつけて証言の信用性を粉砕しました。

陪審員団は最終的に6100万ドルの損害賠償を認め、3M側に30パーセントの責任があるとする評決を下しました。

法廷におけるAIトラブルといえば、これまでは弁護士が存在しない判例をでっち上げる幻覚問題が中心でしたが、今回の件は技術的な専門証言そのものがAIに歪められていた実態を浮き彫りにしました。

なぜ重要か

私たちは、この事例が訴訟実務と専門職におけるAI利用の境界線を根本から変えるシグナルだと考えています。

専門家証人に求められる最大の価値は、科学的かつ中立な立場からの客観的意見です。しかし最初から結論ありきで過失ゼロを証明しろとAIに命じていた以上、そのレポートは客観的な分析ではなく単なるプロパガンダとみなされて当然です。

また、生成AIとのチャット履歴が民事訴訟で丸ごと開示対象になるという現実も強く認識すべきです。個人的な壁打ちのつもりで入力したプロンプトが、法廷で相手方の最強の武器になり得ます。

企業にとっても、高額な報酬を支払って起用した専門家がAIの出力に依存していた場合、巨額の敗訴リスクを直撃で背負うことになります。今後は外部コンサルタントや証人に対するAI利用規程の策定と開示の義務化が、法務リスク管理の必須要件になっていくと私たちは見ています。