OpenAIがChatGPTの行動基準を説明：個別カスタマイズと公的関与を計画

ChatGPTが当たり障りのない質問を説教臭く拒否したり、政治的な偏りを見せたりするたび、開発者が裏で糸を引いているのではないかという批判が噴出してきました。

こうした声に対し、OpenAIはChatGPTの挙動がどのように決定されているのかを解説する公式ブログを公開しました。同社は偏りを意図的な機能ではなくバグと位置付け、改善に向けた今後のロードマップを示しています。

AIの訓練はプログラミングより犬のしつけに近い

OpenAIによると、大規模ニューラルネットワークの挙動を従来のソフトウェアのように一行ずつコードで定義することはできません。

最初の事前学習では、インターネット上の膨大なテキストから次の単語を予測することで文法や常識、推論力を学びますが、同時にネット上の偏見も吸収してしまいます。

続くファインチューニング段階では、人間のレビュアーがガイドラインに沿ってAIの回答を採点し、望ましい振る舞いを覚え込ませます。

OpenAIはレビュアーと週次ミーティングを行いながら指示の明確化を続けており、政治的な争点では特定陣営を支持しない中立の姿勢を求めています。透明性向上のため、争点に関するガイドラインの一部が公開されたほか、レビュアーの属性情報の開示も進められています。

デフォルトの改善とユーザーによる自由な設定

今後の方向性として、OpenAIは三つの柱を提示しました。

一つ目はデフォルト動作の改善です。答えるべき質問を過剰に拒否したり、逆に拒否すべき場面で答えたりする現状や、事実をでっち上げる幻覚の解消に向けて、ルールベース報酬やConstitutional AIの研究を取り入れています。

二つ目はユーザーごとのカスタマイズ機能です。他者やOpenAI自身が強く反対するような見解であっても、各ユーザーがAIの振る舞いを調整できるようにする方針を明らかにしました。

三つ目は限界線の決定に対する公衆の関与です。独善的な権力集中を避けるため、教育現場での意見公募や外部組織によるレッドチーム演習、第三者監査を通じて、絶対的な禁止事項のルール作りを進めるとしています。

なぜ重要か

私たちは、OpenAIが「真理の審判者」という引き合わない役回りを降りようとした点を賢明な判断だと評価しています。

単一の価値観を世界中のユーザーに押し付けようとすれば、どちらの政治的立場からも批判を浴び続けることになります。最低限の安全枠だけを定め、その内側の価値観をユーザー自身のカスタマイズに委ねるアプローチは、極めて現実的です。

一般ユーザーやクリエイターにとっても、余計な説教を受けずに自分の業務や文脈に合わせたAIを使えるメリットは小さくありません。

とはいえ、どこまでを個人の自由とし、どこからを有害として遮断するかの境界線引きは依然として難問です。公衆の意見を取り入れる手続きが形骸化しないか、今後の運用体制が問われることになります。