OpenAIアルトマン氏、AI開発のペース配分に賛同　外部監査の受け入れも表明

フロンティアAI開発の最前線を走る競合2社が、開発スピードを落とす方針で足並みを揃えました。

OpenAIのサム・アルトマンCEOは、Anthropicのダリオ・アモデイCEOが訴えた「フロンティアAI開発のペース調整が必要」という主張に公に賛同しました。アルトマン氏によると、このテーマはここ数週間、OpenAI社内でも主要な議論の的になっていたといいます。

外部の評価者に社員並みのアクセス権を付与

アモデイ氏は以前、業界全体に減速を呼びかける論考を公開し、Anthropicとして第三者評価機関に恒久的かつ社員レベルのシステムアクセス権を与える方針を単独で公約しました。モデルの安全基準の遵守状況やインシデント報告、訓練段階におけるアライメント検証を外部の目で行わせる狙いです。

アルトマン氏はこのアイデアを素晴らしいと称賛し、OpenAIも同様の措置を導入すると明言しました。具体的な取り組みの詳細は近々公表される予定です。

なぜ重要か

リリース速度を競い合ってきたトップ企業2社が、公の場で減速の必要性を認め、外部による深い監視を受け入れる姿勢を見せたことは注目に値します。

モデルの訓練段階から外部評価者に社員同等の権限を開放するアプローチは、従来の公開後レッドチーミングよりも踏み込んだ安全対策と言えます。ただ、実効性の鍵を握るのは独立性の担保です。どのような第三者機関が選ばれ、どこまでの権限を持つのか、詳細が明かされるまでは単なる業界向けのアピールに終わる懸念も残ります。