OpenAIがChatGPTを公開：GPT-3.5基盤、間違いを認め不適切な要求を拒否

従来のチャットボットといえば、決められた選択肢をなぞるだけだったり、間違った回答をもっともらしく返してきたりと、歯がゆい思いをさせられるのが常だった。

OpenAIが公開した「ChatGPT」は、まさにその常識を覆そうとしている。対話に特化して最適化された新しいAIシステムであり、現在は性能向上のためのフィードバック収集を目的に、一般ユーザー向けに広く試用が開放されている。

誤りを認め、不適切な要求を断る対話ボット

ChatGPTの基盤となっているのは、同社のGPT-3.5シリーズに属する大規模言語モデルだ。しかし、モデルが大きいだけでは自然な会話は成立しない。そこで開発チームは、教師あり学習と強化学習の手法を組み合わせたファインチューニングを実施した。

この調整によって、ChatGPTはこれまでのボットとは一線を画す挙動を見せる。日常的な幅広い質問に答えられるだけでなく、自らの回答に間違いがあれば素直に認め、不適切な要求に対してはきっぱりと拒否する姿勢を身につけている。

この自然な受け答えは公開直後から大きな注目を集めた。技術系の話題としては異例なことに、ブログプラットフォームのMediumで急上昇検索ワードにランクインするほどの反響を呼んでいる。Googleが2018年10月に発表したBERTがTransformerによる双方向表現の扉を開いて以来、言語モデルは進化を続けてきたが、ChatGPTはその技術を対話という実用的な体験へと着地させた形だ。

なぜ重要か

私たちが注目すべきだと考えるのは、OpenAIがモデルの規模を誇示するのではなく、「対話の安全性と境界線」に正面から取り組んだ点だ。不適切な指示を断り、自らの誤りを認める挙動は、AIが信頼できる実用ツールになるための極めて重要なステップと言える。

一般ユーザーや開発者にとっても、特別な指示文のテクニックを意識することなく、自然な言葉遣いで相談できる恩恵は非常に大きい。日常的な調べ物や文章作成の壁打ち相手として、今すぐ試す価値は十分にある。

ただし、公式が「改善のためのフィードバックを求めている」と明言している通り、依然として誤情報をもっともらしく出力するリスクは残されている。重要な事実関係の確認までボットに丸投げするのは避けるべきだ。

業界全体にとって、ChatGPTの登場は競争のルールを変える合図となる。単に巨大なモデルを事前学習させる時代は終わり、強化学習を用いて人間の意図にどう寄り添わせるかという調整技術こそが、今後の勝敗を分けることになるだろう。