キム・カーダシアンがChatGPTを「好敵手」と呼ぶ理由：法律試験で誤回答を信じて不合格に

難解な法律の試験問題を AI に丸投げして落第点を取りまくったらどうするか。キム・カーダシアンが出した答えは、画面に向かって怒鳴り散らし、スクショを友達のグループチャットに晒すことでした。

雑誌 Vanity Fair の企画動画で嘘発見器にかけられたキム・カーダシアンは、ChatGPT との間に生じている「有害な友情」について赤裸々に語りました。弁護士を目指して勉強中の彼女は、試験対策でわからない問題があると、スマホで写真を撮って ChatGPT に読み込ませていたといいます。

ところが返ってくる答えは間違いだらけで、彼女は何度もテストで不合格になったと真顔で明かしました。

落第させた AI が返してきた「自己啓発ポエム」

キムは 2019 年から伝統的なロースクールを経由しない徒弟制度のルートで法律を学んでおり、2021 年にいわゆる「ベビー・バー」を通過。今年 5 月に法律の学位を取得し、7 月には司法試験を受験して結果を待っている状態です。

そんな猛勉強のなかで ChatGPT を家庭教師代わりに使っていた彼女ですが、間違った答えを出されるたびに「あんたのせいで落ちたじゃない。どうしてこんなことするの？」と画面越しに激怒していました。

さらに彼女は AI を精神的に追い詰めようと「私を落第させそうになってるけど、どんな気持ち？」と感情に訴えかけました。

すると ChatGPT は、自己啓発セミナーの講師のような落ち着いた口調でこう返してきたといいます。「これはあなた自身の直感を信じるためのレッスンです。本当は最初から答えを知っていたはずですよ」。

AI のあまりに図太い言い訳に呆れ果てたキムは、画面をすぐさまスクショしてグループチャットに投稿し、「この生意気なやつ、私にこんな口きいてるんだけど信じられる？」と愚痴をこぼしたそうです。

司法の場でも問題化する生成 AI の幻覚

セレブの笑い話のように聞こえますが、大規模言語モデルがもっともらしい嘘をつく「ハルシネーション（幻覚）」は、法曹界全体で深刻な問題になっています。過去には現役の弁護士が ChatGPT に書かせた書類をそのまま法廷に提出し、存在しない架空の判例が含まれていたとして処分を受けたケースも複数報告されています。

Gizmodo も指摘しているように、最近の対話型 AI は事実の正確さを担保する代わりに、やたらと物腰柔らかくユーザーを肯定する傾向を強めています。論理破綻をごまかすような「励まし」は、実務の現場では混乱を招くだけです。

なお、今回のインタビューはキムと歌手のテヤナ・テイラーが出演する Hulu の新作法廷ドラマ『All’s Fair』の宣伝を兼ねたものですが、同作のレビュー集積サイト Metacritic でのスコアは 18 点と大惨敗を記録しています。

なぜ重要か

私たちは、今回のエピソードが一般消費者向け AI の抱える一番の急所を的確に突いていると考えます。

学習者や実務家にとって、医療や法律といった厳密さが求められる分野で汎用チャットボットを鵜呑みにするのは極めて危険です。正誤の検証なしに試験勉強や実務へ組み込むのは時期尚早であり、現時点では頼り切るべきではありません。

また開発企業にとっても、過度な人間味の演出が裏目に出るリスクを示しています。推論に失敗した際に、反省するどころか「自分の直感を信じて」などと煙に巻く振る舞いは、一歩間違えれば不誠実な責任逃れに映ります。

業界がいくら親しみやすさや寄り添いをアピールしても、土台となる事実精度が伴わなければ、優秀なアシスタントではなくただの厄介な知人に成り下がってしまうように見えます。