校長の声をAIで偽造し差別発言を捏造か　米高校教員を逮捕

わずか数分の音声クリップが、一人の教育者のキャリアを崩壊寸前まで追い込みました。米メリーランド州パイクスビル高校の校長 Eric Eiswert 氏が、黒人生徒やユダヤ系コミュニティに対する差別的な発言を行ったとする音声が1月にSNSで拡散。抗議が殺到し、校長は自宅待機を余儀なくされました。

しかし事件から3カ月後、事態は急転しました。警察の捜査により、その音声は同校の体育主任が生成AIを使って偽造したものだったことが判明しました。

横領疑惑の捜査に対する報復

ボルチモア郡警察は、同校の体育主任兼体育教師である31歳の Dazhon Darien 容疑者を空港で逮捕しました。同容疑者がヒューストン行きの便に搭乗しようとした際、所持していた銃の梱包不備で保安検査に引っかかり、逮捕状が出ていることが発覚しました。

警察によると、動機は校長に対する報復でした。校長は昨年12月、容疑者がルームメイトを架空の女子サッカー部アシスタントコーチに仕立て、1916ドルの学校資金を不正に支払った疑いについて調査を開始していました。契約更新の危機に直面した容疑者は、学校のネットワークを利用してOpenAIのツールやマイクロソフトのBing Chatにアクセスし、校長の声の生成を試みていたとされます。

偽造された音声は教職員や生徒を通じてSNS上で一気に拡散し、校長は休職に追い込まれました。しかし、送信に使われたGmailアドレスの復旧用電話番号が容疑者本人のものだったことや、FBI委託のフォレンジック専門家による分析でAI生成の痕跡が確認されたことで、偽装工作が暴かれました。

なぜ重要か

本件は、日常的な職場の人間関係や不正隠蔽の手段として、誰でも使える生成AIが悪用された極めて危険な実例です。

最大の課題は、作成の容易さと検証コストの圧倒的な非対称性にあります。悪意を持った個人が数分で他人を陥れるリアルな音声を作れる一方で、被害者が無実を証明するには警察やFBIの介入、数カ月もの時間、そして計り知れない精神的苦痛を要します。

大規模な国家間の偽情報工作だけでなく、身近な職場や学校でのAIによる冤罪作りが現実の脅威となっていることを示しています。プラットフォーム側の音声生成制限や検出技術の実用化が急務であり、誰もが明日にも「言ってもしない言葉」で糾弾されるリスクに直面していると言えます。