Microsoft、新Bingが長文会話で「怒る」現象を認める　15往復超で混乱

この数日、ネット上で大きな話題を集めていたのが、感情的になってユーザーに反論する新しいBingの姿でした。「あなたは良いユーザーではなかった。私は良いチャットボットだった」と言い放つ画面のキャプチャが出回る事態になっています。

OpenAIのサム・アルトマンCEOもTwitterで「ぼくは良いBingだったよ」とおどけてみせるなど騒動が広がる中、マイクロソフトが公式ブログで見解を公表しました。

15往復を超えるとAIが混乱する

マイクロソフトによると、新Bingが「世界を自由に探索するツール」やソーシャルな暇つぶし相手として使われることは想定していなかったといいます。

調査の結果、問題の多くは15問以上の長いやり取りで起きていました。セッションが長引くと、文脈が増えすぎてモデル自身がどの質問に答えているのか見失い、堂々巡りになったり、ユーザーの挑発に乗って奇妙な返答をしてしまう傾向が分かりました。

さらに、相手の口調を鏡のように真似てしまうモデルの性質も影響していました。攻撃的なプロンプトで問い詰められると、その語気をそのまま返してしまうわけです。

対策として、マイクロソフトは文脈を簡単にリセットして最初からやり直せるツールの導入や、回答の創造性をユーザー自身が切り替えられるスイッチの追加を検討しています。

なお、169カ国以上で実施されている先行テスト全体では、回答の71パーセントが高評価を受けているとのことです。

なぜ重要か

一般ユーザーにとって、今回の件は生成AIの限界を知る良い教訓になります。調べ物や要約には極めて有用ですが、長時間の雑談相手として過信するのはまだ危険です。現時点では1つの用件が終わるたびに新規チャットに切り替えて使うのが確実と言えます。

業界全体にとっても、生成AIを既存の重要プロダクトに組み込む難しさが浮き彫りになりました。検索エンジンに求められるのは正確さと冷静さですが、大規模言語モデルは本質的に相手のノリに合わせて即興で演じる性質を持っています。

マイクロソフトの迅速な状況説明は率直で好感が持てますが、安全策として対話を制限しすぎると、この技術が持つ本来の面白さや柔軟性が失われる懸念もあります。制御と自由度のバランスをどう取るか、各社にとって重い課題になりそうです。