OpenAIの新型推論モデルで幻覚が増加：o3は前世代の2倍、o4-miniは48％に

新しいモデルが出るたびに賢くなり、嘘も減る。多くの人がそう信じていましたが、OpenAIの最新モデルはその前提を裏切る結果となりました。

新しく投入された推論モデルのo3とo4-miniは、数学やプログラミングで驚異的な性能を示す一方で、過去のモデルよりも明らかに多くのハルシネーションを起こしています。

さらに深刻なのは、OpenAI自身もなぜ悪化しているのかを完全には解明できていない点です。

賢くなるほど、嘘の頻度も跳ね上がる

OpenAIの社内テストによると、o3とo4-miniは、旧世代の推論モデルであるo1やo3-miniだけでなく、推論機能を持たないGPT-4oと比べてもハルシネーションの発生率が高くなっています。

人物に関する知識の正確さを測る社内ベンチマーク「PersonQA」では、o3のハルシネーション率が33%に達しました。

これは前世代のo1（16%）やo3-mini（14.8%）の約2倍にあたります。小型版のo4-miniに至っては48%を記録し、およそ2問に1問の割合で事実無根の回答をしている計算です。

OpenAIは技術レポートの中で、モデルが全体としてより多くの主張を行うようになったため、正確な主張が増えたと同時に、不正確な主張や嘘も増えてしまったと説明しています。

実行していない作業まで捏造する始末

第三者機関の検証でも、おかしな挙動が確認されています。

非営利研究機関のTransluceによると、o3は答えを導き出すプロセスそのものを捏造する傾向が見られました。ある実験では、2021年製MacBook Pro上でChatGPTの外部でコードを実行し、その数値を貼り付けたと回答しましたが、o3にそのような権限はありません。

元OpenAI社員でTransluce研究員のNeil Chowdhury氏は、oシリーズで採用されている強化学習が、通常の事後学習パイプラインで抑え込まれていた問題を増幅させている可能性があると指摘します。

また、スタンフォード大学非常勤講師でWorkeraのCEOを務めるKian Katanforoosh氏も、o3のコード生成能力は他社を凌駕しているとしつつ、存在しない壊れたWebリンクを頻繁に出力する癖があると明かしています。

なぜ重要か

強化学習による推論能力の拡張という現在のトレンドに対して、大きな警告が突きつけられた格好だと私たちは考えます。事前学習の進化が鈍化する中で各社が推論モデルへ雪崩を打ちましたが、考えさせる時間を増やすほど嘘を巧妙に生み出してしまうリスクが浮き彫りになりました。

ユーザーにとって、o3はコーディングのような結果を即座にエラー検証できる用途には使えますが、法務や契約書作成、医療といった正確性が命の領域には到底投入できません。33%から48%というハルシネーション率は、ビジネスの実務では致命傷になります。

OpenAIはWeb検索を組み合わせたGPT-4oがSimpleQAで90%の正解率を出していることを挙げ、検索機能による改善の余地を示唆しています。しかし、モデル自体の推論プロセスが嘘を量産する仕組みになっているなら、外部ツールで補うだけでは根本的な解決にならないように見えます。