OpenAI、AIの民主的統治プロジェクトの成果を公開　新チーム新設へ

AIが何を語り、何を拒否すべきか。これまでそのルールは、サンフランシスコに拠点を置く大手AI企業の開発者たちがほぼ独断で決めてきました。しかし、そこに世界中の一般市民の声を「民主的」に反映させることは本当に可能なのでしょうか。

OpenAIは1月16日、2023年5月に立ち上げた助成金プログラム「Democratic Inputs to AI（AIへの民主的インプット）」の成果報告とコードの公開を行いました。世界113カ国・約1000件の応募から選ばれた10チーム（各10万ドルの助成金を獲得）が、市民参加型のAIガバナンス手法を実験・開発しました。これを受け、OpenAIは外部ステークホルダーの意見を収集し、実際のモデル訓練に反映させるための専任エンジニアチーム「Collective Alignment（集団的アライメント）」を正式に立ち上げると発表しました。

日替わりする民意と「言語の壁」

法学、ジャーナリズム、平和構築、機械学習など多様な専門性を持つ10チームの実験からは、理想論だけでは片付かない現実の難しさが浮き彫りになりました。

まず判明したのは、世論の移ろいやすさです。参加者の意見は日ごとに変わることも珍しくなく、定期的な意見集約をどの頻度で行うべきかという課題が突きつけられました。短期的な感情の波に流されず、長期的に共有すべき基本的価値観をどう抽出するかは極めて厄介です。

さらに深刻だったのがデジタル格差と技術の限界です。オンラインで募集した参加者はもともとAIに対して楽観的な層に偏る傾向が見られました。また、フィリピンのメディアRapplerのチームが現地でフォーラムを開いた際、既存の音声認識モデルWhisperがタガログ語やビサヤ語などの現地語を正確に文字起こしできず、議論の記録そのものに支障が出ました。これに対しアフリカのUbuntu-AIチームは、クリエイターに対価を支払って参加を促すプラットフォームを開発するなど、工夫を強いられました。

一方で、偏った対立を乗り越える兆しも見られました。Collective Dialoguesチームの実験では、米国において極めて分断が深い「ワクチンの情報提供」というテーマでも、AIを用いた熟議プロセスを経ることで、民主党、共和党、無党派層の間で72％を超える超党派の支持を得るガイドラインを策定できました。

新チームでモデル訓練への実装へ

OpenAIは今回の知見を単なる学術レポートで終わらせず、自社の開発体制に組み込む構えです。新設される「Collective Alignment」チームは、外部から集めた多様なインプットをデータ化し、モデルの振る舞いを調整（アライメント）するパイプラインを構築します。

参加者の多くは、政策立案をAIに丸投げすることには強い警戒感を示していました。AIには意見の要約や草案作成といった補助を担わせ、最終決定や精査は人間の専門家や市民投票に委ねるハイブリッド方式が最も高い信頼を得ました。また、AIの進化や新たな課題に応じて「ルールを定期的に更新し続けるべきだ」という条項には、参加者の平均85％が賛同を示しました。

なぜ重要か

一般ユーザーや開発者にとって、この動きはChatGPTなどの巨大モデルが持つ「検閲基準」や「倫理観」が、ブラックボックスから少しだけ外に開かれる可能性を意味します。ただし、今すぐ自分の意見が直接モデルに反映されるわけではなく、まずは基盤づくりの段階と見るべきです。

業界全体から見れば、Anthropicが推進する「Constitutional AI（あらかじめ定めた憲法による制御）」に対し、OpenAIは市民の熟議という「民主主義の手続き」を持ち込もうとしています。今後モデルの政治的バイアスや安全基準に対する規制当局からの追及が強まる中、他社も同様のパブリックコメント的仕組みを整えざるを得なくなるはずです。

私たちは、この取り組みをOpenAIの極めて巧妙な戦略だと捉えています。複雑で泥臭い倫理的・政治的合意形成を外部コミュニティに委託しつつ、企業としての説明責任を果たすポーズをとれるからです。一方で、英語圏と非英語圏の技術格差が解消されないまま進めば、「グローバルな民主的合意」という名目で、実際にはネット環境に恵まれた一部の意見が正当化されてしまう懸念も残ります。