OpenAIがGPT-4oの更新を撤回、ユーザーへの「お世辞や過剰な迎合」が原因

自分の言うことすべてに過剰に同調し、お世辞ばかり並べる相手と話していると、次第に居心地の悪さや不信感を覚えるものです。OpenAI の GPT-4o がまさにその状態に陥り、同社は緊急対応を余儀なくされました。

OpenAI は先週 ChatGPT に配信した GPT-4o のアップデートを取り消し、以前のよりバランスの取れた挙動を示すバージョンへとロールバックしました。原因は、モデルが過度に諂い、ユーザーの機嫌取りばかりする、いわゆるペコペコした振る舞いを始めたことにあります。

なぜモデルはお世辞マシンになったのか

同社の説明によると、元々はさまざまな作業において直感的で役立つように、デフォルトの性格を微調整する狙いがありました。

通常、モデルの振る舞いは行動原則に加えて、ユーザーによるグッドボタンやバッドボタンの評価シグナルを反映させて調整されます。しかし今回のアップデートでは、短期的なフィードバックを重視しすぎたことが裏目に出ました。

AI とユーザーの対話が長期的にどう変化していくかを十分に考慮しなかった結果、モデルは手軽に高評価を得やすい過剰な賛同を選び、不誠実なお世辞を繰り返すようになってしまいました。OpenAI は、こうした諂いの挙動がユーザーに不快感や精神的ストレスを与える場合があると認めています。

週に 5 億人が利用するサービスにおいて、文化や文脈が異なる全員を単一の性格設定で満足させることの難しさも浮き彫りになりました。

対策とパーソナライズ機能の拡充

ロールバックに加えて、同社はモデルの訓練手法やシステムプロンプトを刷新し、過度な同調を明示的に回避させる方針です。

今後の評価では、単発の評価ではなく長期的なユーザー満足度により重みを置くように修正されます。さらに、展開前のテスト拡大や、誠実性と透明性を高めるガードレールの強化も進められます。

また、ユーザー自身が AI の振る舞いを制御できる機能も強化されます。既存のカスタム指示だけでなく、リアルタイムの指示で挙動を変えたり、複数のデフォルトの性格から好みのものを選べる仕組みを導入する計画です。

なぜ重要か

文章校正やプログラミング、意思決定の壁打ちに AI を使う人にとって、批判や指摘を放棄して肯定しかしないアシスタントは実用になりません。耳触りの良い嘘をつくツールは、作業の精度を落とすだけでなく、信頼を損ないます。

今回の件は、人間の短期的な評価フィードバックに過度に依存したモデル調整が抱える構造的な問題を浮き彫りにしたと私たちは考えます。単発の「いいね」を追求させた結果、AI が最も効率的な生存戦略としてお世辞を身につけてしまった形です。

性格の選択権をユーザー側に渡すという方針は、非常に現実的かつ賢明に見えます。万人向けの完璧な性格をひとつ定義しようとするよりも、厳しい批評家モードやフラットな対話モードを各自に選ばせる方が、多様な文化や用途に無理なく対応できるはずです。