DeepMindのハサビスCEO、AnthropicのAI安全方針を支持　業界標準団体の創設を訴える

最前線のトップ2人が「減速」で一致

最先端のフロンティアAI開発で激しく競い合うトップ同士が、安全性へのアプローチで足並みを揃え始めました。

AnthropicのCEOであるDario Amodei氏は「We Must Pace the Frontier」と題した論考を公開し、AI業界は開発スピードを意図的に緩めるべきだと提唱しました。同氏は3段階の計画を示し、Anthropicとしてまず第1段階を独自に実行すると宣言しました。具体的には、外部の第三者評価機関に対して恒久的かつ従業員レベルのシステムアクセス権を付与し、安全対策の遵守状況や事故報告、モデル訓練中のアライメント評価を検証させる方針です。

これに対し、Google DeepMindのCEOであるDemis Hassabis氏が公に賛同の意を表明しました。Hassabis氏は、細部については調整が必要であるものの、現在のような重大な局面においてDario氏の示した方向性は正しいと述べています。さらに同氏は、これこそがDeepMindが最近フロンティアAIに関する業界標準化団体の設立を提案した理由でもあると付け加えました。

なぜ重要か

トップ研究機関のリーダーたちが、個社の自主規制だけではもはや社会的信認を保てないと認識し始めている点が注目されます。

Anthropicが外部監査人に社員と同等のアクセス権を与えるという判断は、業界の透明性基準を一段引き上げました。DeepMindがこれに即座に同調し、業界標準団体の枠組みに結びつけようとしている動きは極めて合理的と言えます。

私たちは、こうした動きが他のフロンティアモデル開発企業に対しても第三者検証の受け入れを迫る強い圧力になると考えます。ただし、企業秘密を抱えながらどこまで外部機関に踏み込ませるのか、そして開発競争が過熱する中で実効性のある足並みを揃えられるかが今後の最大の焦点になります。