OpenAI、AIの行動ルールを決める民主的実験に10件の10万ドル助成金を提供

AIがどのような価値観に従って振る舞うべきかという問題は、技術者だけで決められるものではありません。特定の企業や一握りのエンジニアがルールを独断すれば、必ず批判を招きます。

OpenAIの非営利部門であるOpenAI, Inc.は、AIシステムの行動規範を民主的な手続きで決定するための実験を支援する助成プログラムを発表しました。1件あたり10万ドルの助成金を10組に提供し、総額100万ドル規模の取り組みとなります。

100万ドルを投じ、AIのルール作りを公募

OpenAIが投げかけているのは、法律の枠組みだけでは解決できないグレーゾーンの課題です。

例えば、議論の分かれる公人についてAIは中立を保つべきか、回答を拒否すべきか。画像生成で「医師」や「CEO」を指示された際、描写の多様性をどうバランスさせるべきか。あるいは、人権と各国の地域的な文化規範が対立した場合、どちらを優先すべきかといった問いです。

同社は、WikipediaやTwitterのCommunity Notes、台湾のオードリー・タン氏らも活用した合意形成プラットフォームpol.isなどを例に挙げ、単一の企業や個人、国が独占しない統治プロセスの模索を求めています。

500人の参加とオープンソース化が条件

応募資格に制限はなく、社会科学やAIの専門知識の有無を問わず、世界中の個人や団体が参加できます。

申請の締め切りは2023年6月24日、選考結果の発表は7月14日です。採択された10チームは、少なくとも500人の参加者を巻き込んだプロトタイプを実施し、2023年10月20日までに公開レポートを提出しなければなりません。

また、プロジェクトで作成されたコードや知的財産は、すべてオープンソースライセンスの下で一般公開されることが条件となっています。

ただしOpenAIは、今回の初期実験の結果に直接的な決定の拘束力はないと明言しています。政府による法規制に代わるものではなく、将来に向けた補完的な実験という位置付けです。

なぜ重要か

この施策は、OpenAIにとって極めて巧妙な一手であると同時に、実効性における課題も抱えていると私たちは考えます。

スマートな点は、モデルのバイアスや政治的スタンスという最も批判を浴びやすい論点について、自前で抱え込まずに外部へオープンな議論の場を広げたことです。助成総額100万ドルという比較的控えめな投資で、社会的な責任を果たす姿勢を示しつつ、世界中のシビックテックの知見を集めることができます。

一方で最大の懸念は、実験結果に「拘束力がない」点です。せっかく民主的な合意形成の手法が編み出されても、最終的にそれをChatGPTなどの実サービスに反映するかどうかはOpenAIの手中にあります。下手をすれば、意見を聞く姿勢だけをアピールする「参加ウォッシング」に終わりかねません。

それでも、ガバナンス研究者や開発者にとっては試す価値が大きい機会です。すべての成果物がオープンソース化されるため、一企業の枠を超えて、今後の生成AI業界全体が参照できる公共のルール策定基盤として残る可能性があります。