OpenAI、独立系AIアライメント研究基金に750万ドルを拠出

最先端のAI開発企業が自社内で安全性研究を進めていても、もし現在のアプローチ自体が行き詰まったらどうするのか。この懸念に対し、オープンな外部研究を支援する動きが出ました。

OpenAIは2月19日、英国AI安全研究所（UK AISI）が立ち上げた独立系AIアライメント研究基金「The Alignment Project」に対し、750万ドル（約560万ポンド）を拠出すると発表しました。

この拠出により、同基金の総額は2700万ポンド（約50億円以上）を超えました。基金は公共部門、慈善団体、産業界の連携で構成されており、OpenAIからの助成金管理はルネサンス・フィランソロピー（Renaissance Philanthropy）が担当します。

審査には介入せず、採択枠を拡大

この取り組みは、AIアライメント専門の独立系助成金としては過去最大規模の一つとなります。

各プロジェクトには5万ポンドから100万ポンドが支給され、必要に応じて計算資源（コンピュート）や専門家による支援も提供されます。

注目すべきは、OpenAIが新たな選考基準を設けたり既存の審査プロセスに関与したりしない点です。資金は、UK AISIの専門家審査をすでに通過した質の高いプロジェクトの採択数を増やすためにそのまま充てられます。

英国科学・イノベーション・技術省（DSIT）傘下のUK AISIは、深刻なAIリスクの評価に特化した知見と審査体制をすでに整えており、公平な資金配分を担います。

大手の手法がスケールしない未来に備える

現在、OpenAIなどのフロンティアラボで行われているアライメント研究は、モデルの反復的な実戦投入と緊密に結びついています。膨大な計算資源を使える強みはあるものの、自社の製品ロードマップに縛られがちです。

今回の基金が対象とするのは、計算複雑性理論、経済学・ゲーム理論、認知科学、情報理論や暗号理論といった、企業内では手が出にくい学術的・基礎的なアプローチです。

現行の主流な安全対策が将来の超知能に対して通用しなくなった場合でも、別角度からのブレークスルーを担保しておく狙いがあります。

なぜ重要か

大学や研究機関に所属するAI研究者にとって、この基金は極めて現実的なチャンスです。最大100万ポンドの資金と計算資源を、特定の巨大テック企業に雇用されることなく確保できるため、純粋な理論研究に集中できる環境が整います。

業界全体にとっても、AIの安全性研究が少数の巨大企業のブラックボックス内に偏るリスクを是正する効果があります。OpenAIが政府機関であるUK AISIに審査を委ね、第三者機関に管理を任せた手法は、利益相反の批判を避けつつ外部の知見を育てる賢い選択に見えます。

ただし、数千億円規模が動くAI開発競争において、750万ドルという金額は決して大きくありません。私たちは、ゲーム理論や暗号理論といった机上の基礎研究が、実際の商用フロンティアモデルの暴走を防ぐ具体的な防壁へと落とし込めるかどうかが、今後の真の課題になると考えています。