OpenAIやGoogleら4社、AI安全基金に1000万ドル超を拠出

生成AIの最前線を走る競合4社が足並みを揃え、安全性のルール作りに本格的に乗り出しました。

Anthropic、Google、Microsoft、OpenAIは10月25日、共同で設立した業界団体「Frontier Model Forum」の初代事務局長にクリス・メセロール氏を任命したと発表しました。あわせて、外部の安全研究を支援する1000万ドル規模の「AI安全基金」を立ち上げています。

メセロール氏は米ブルッキングス研究所で人工知能・新興技術イニシアチブのディレクターを務めていた政策の専門家です。今後はフォーラムの活動を主導し、フロンティアモデルの安全性向上や政策担当者との連携を進めます。

レッドチーム手法の標準化と研究助成

新たに設立されたAI安全基金には、4社のほかにパトリック・J・マクガバン財団やエリック・シュミット氏、ジャーン・タリン氏などの慈善パートナーが初期資金として1000万ドル超を拠出しました。

この資金は大学や研究機関、スタートアップに所属する独立系研究者を対象に、モデル評価手法やレッドチーム技術の開発へ助成されます。基金の運営はメリディアン研究所が担当し、数か月以内に研究提案の募集を開始する予定です。

フォーラムは同時に、レッドチームに関する初の技術報告も公開しました。有害な出力やリスクを検証するための共通定義や事例を整理したほか、脆弱性や危険な能力を各社間で共有する開示プロセスの構築を進めています。

なぜ重要か

外部の研究者にとって、自前で高精度なモデル評価ツールを開発するための貴重な資金源になります。大手テック企業の中立的な検証が求められる中、学術機関が検証技術を持つ意義は大きいです。

業界全体から見れば、各国政府による法規制が本格化する前に、開発元自らが業界標準を固めにきた動きと捉えられます。ホワイトハウスでの自主的コミットメントに署名した4社が、リスク評価の基準を先導して定義しようとしている格好です。

しかし、各社がモデル開発に投じている巨額の投資と比べると、1000万ドル超という規模は決して大きくありません。安全基準の策定がこれら巨大企業に主導されることで、新興のスタートアップにとって準拠コストが高くなり、参入障壁として機能してしまう懸念も残ります。