ChatGPTの「自作」回答を誤信、米大学教授が生徒の大半を落第扱いに

カンニングを取り締まるために、AIに「お前が書いたのか」と尋ねても何の解決にもなりません。しかし、米国の大学教授がまさにそれを実行し、クラスの大半の卒業を危うくする騒動が起きました。

テキサスA&M大学コマース校で、すでに卒業式を終えた農学科の学生たちの卒業証書が突然保留される事態が発生しました。原因は、指導教授であるジャレッド・マム（Jared Mumm）博士が、期末レポートをChatGPTで作成されたものだと決めつけ、単位を認めなかったためです。

教授が使った判定方法は極めて杜撰でした。学生の提出物をChatGPTに貼り付け、「お前が書いたのか」と質問しただけ。そしてチャットボットは、あっさりと「はい」と答えました。

教授自身の博士論文も「AI製」判定に

この事件は、婚約者が被害に遭ったというRedditユーザー「DearKick」の投稿から明るみに出ました。マム教授は学生へのメールでChatGPTを「Chat GTP」と書き間違えつつ、全員のレポートをボットに2回ずつ通したと説明。2回ともボットが「自分が書いた」と主張したものはゼロ点にし、成績欄には「X（不合格）」をつけました。

身に覚えのない学生たちは、Googleドキュメントの編集履歴やタイムスタンプを提示して自身で書いたことを証明しようとしました。しかし教授は当初それらを無視し、採点システムに「AIが書いたデタラメは採点しない」とだけ書き残したとされています。

事態がネット上で拡散されると、思わぬ展開を迎えました。あるRedditユーザーがマム教授自身の過去の博士論文（養豚に関する研究）をChatGPTに入力して同じ質問をしたところ、ボットは「その文章はChatGPTのような言語モデルで生成された可能性が高い」と返答。さらに教授が学生に送った怒りの告発メールを入力すると、「はい、その文章は私が作成しました」と自白してしまいました。

ChatGPTはAI検出器ではない

そもそもChatGPTは、テキストがAIによって書かれたかどうかを判定するようには作られていません。過去に出力した内容の記録を保持しているわけでもなく、誘導次第ではドストエフスキーの『罪と罰』のような歴史的名作すら「自分が書いた」と主張することが知られています。

AI検出にはWinston AIやContent at Scaleといった専用ツールが存在しますが、OpenAI自前の検出ツールですら精度不足が指摘されている状況です。単なる生成モデルに真偽判定を任せるのは、完全な道具の誤用と言えます。

騒動を受け、テキサスA&M大学コマース校は声明を発表。現時点で不合格になったり卒業を禁じられた学生はいないとし、事態の調査と学内でのAI利用ポリシーの策定を進めていると釈明しました。

なぜ重要か

この一件は笑い話のようでいて、AI時代における個人の自衛手段について深刻な課題を投げかけています。

学生やライター、デスクワーカーにとって、今や「制作過程の記録」は必須の防御策となりました。変更履歴がタイムスタンプ付きで残る環境で執筆しなければ、技術を理解していない上司や教員から理不尽な疑いをかけられた際、無実を証明することが難しくなります。

私たちが問題視すべきは、教育現場におけるリテラシー不足と過剰なパニックです。生成AIは確率に基づいて「それらしい続きの言葉」を返す仕組みであり、記憶を照合する判定機ではありません。ルールや検証基準を用意しないまま現場の判断に丸投げした結果、今回のような冤罪劇が起きてしまいました。

組織が客観的で納得感のあるガイドラインを早急に整えなければ、AIを正しく理解しない人間による「魔女狩り」は、教育現場だけでなくオフィスでも頻発することになるはずです。