xAIの「Grok」、質問拒否時に「OpenAIの規約違反」と誤答して波紋

ライバル企業を倒すために鳴り物入りで投入した最新 AI が、よりによってその宿敵の利用規約を暗唱し始めるという珍事態が起きました。

先週から一般公開が広がった Elon Musk 氏率いる xAI の対話型 AI「Grok」で、不可解な挙動が報告されています。セキュリティテスターの Jax Winterbourne 氏が金曜日に公開したスクリーンショットによると、Grok はあるプロンプトに対して「OpenAI の利用規約に反するため、そのリクエストには応じられません」と回答して要求を拒否しました。

ChatGPT の対抗馬として位置づけられている Grok が、他社である OpenAI の名前を出して回答を拒んだことで、ネット上は騒然となりました。

ウェブデータ混入か、それとも蒸留か

xAI 側もこの現象自体は否定していません。同社社員の Igor Babuschkin 氏は返信欄で、ウェブ上にはすでに ChatGPT の生成物が溢れており、Grok の学習データとして大量のウェブデータを収集した際にそれらが誤って紛れ込んでしまったと釈明しました。

Babuschkin 氏は、社内でも最初に気づいたときは非常に驚いたとしつつ、発生頻度は極めて稀であり、今後のバージョンで修正する予定で、OpenAI のコードは一切使用していないと強調しています。

しかし、不具合を報告した Winterbourne 氏は、コード生成が絡む場面ではこの現象がかなり頻繁に起きると反論しています。

AI 研究者の Simon Willison 氏も Ars Technica の取材に対し、ウェブスクレイピング中の偶然という説明には懐疑的な見方を示しました。LLM は学習データの一部をそのまま丸暗記して出力することは稀であり、Hugging Face 上のオープンモデルでも同様の挙動を示すものは、ほぼ例外なく OpenAI の API や ChatGPT の出力で事後学習されたデータセットを使っていると指摘しています。

なぜ重要か

私たちは、この一件がフロンティア AI 開発における公然の秘密を浮き彫りにしたと考えています。競合打倒を掲げるモデルであっても、実際には OpenAI の出力を教師データとして借りて作られている疑いが濃厚です。

Grok を試そうとしている一般ユーザーやエンジニアにとって、現時点での実力を見極める冷静な目が必要です。ChatGPT とはまったく異なる自由な思考やコーディング能力を期待して触ると、拒絶時の挙動やロジックが本質的に ChatGPT のコピーに近い実態に肩透かしを食らう可能性があります。

業界全体への影響として、OpenAI の閉鎖性や検閲体制を批判して立ち上げられた xAI にとって、この不手際はブランドイメージへの大きな打撃です。他社製データの蒸留は開発コストを下げる賢い近道に見えますが、競合の規約テキストまでそのまま吐き出す甘さは技術的な粗さを露呈しています。

さらに深刻なのは、ネット上のデータ汚染です。AI が生成したテキストでウェブが埋め尽くされる中、競合の痕跡を完全に除去して独自モデルを学習させることがいかに困難であるかを、今回の騒動は見せつけています。