OpenAIがAGIロードマップを公開：知能が高まるほど展開は慎重に

人間を超える知能が完成したとき、世界はどうなるのか。

多くの人が対話型 AI を便利なツールとして試し始めているなか、OpenAI はその先にある汎用人工知能（AGI）と超知能を見据えた声明を発表しました。

OpenAI は公式ブログで「Planning for AGI and beyond」と題する文書を公開し、AGI の実現に向けた基本方針とリスク管理のアプローチを明らかにしました。

段階的な社会実装と非常ブレーキ

OpenAI が掲げる基本戦略は、研究室で完璧な超知能を抱え込むのではなく、少しずつ能力を高めたモデルを社会に提供していく段階的な移行です。

いきなり強力な知能を世界に解き放つよりも、リスクがまだ低いうちに実社会で運用し、制度や法規制、経済を適応させていく方が安全だという論理です。社会と AI が対話しながら進化するフィードバックループこそが最善の道だと説明しています。

ただし、AGI に近づくにつれて慎重さを一段と強めるとしています。将来の計画として、新システムの公開前における独立監査の導入や、訓練を開始する前の外部レビュー、モデル開発に使う計算資源の増加ペースの制限、一定規模以上の訓練に関する主要国政府への情報共有といった厳しい基準に言及しました。

また、株主への利益配分に上限を設けた capped-profit 構造や、人類全体の利益を優先して投資家への義務を無効化できる非営利法人の統治構造も、安全性担保の仕組みとして強調されています。

専門家からの冷ややかな視線

この発表に対しては、手放しの称賛ばかりではありません。

著名ブロガーの Scott Alexander 氏は Astral Codex Ten にて、今回の声明を石油大手が気候変動対策の完璧なマニフェストを出したようなものだと指摘しました。耳障りの良い言葉を並べ、危機が迫ったら責任ある行動を取ると約束しながら、足元では石油を全力で掘り続けている構図と同じだという批判です。

さらに、予測プラットフォームの Metaculus における超知能の出現予測が 2043 年から 2031 年へと大幅に前倒しされた例を引き合いに出し、楽しいチャットボットを次々に投入して研究競争を過熱させることが、アライメント（AI の制御技術）を確立するための貴重な時間を奪っているという懸念も根強く存在します。

なぜ重要か

一般のユーザーや開発者にとって、今後のモデルがどのような姿勢で提供されるかが明確になりました。OpenAI は製品のデフォルト設定をかなり制限された状態にする方針を示しており、個人の裁量を認めつつも、安全のための強い制約が前提となります。

業界全体にとっては、トップランナー自らが計算資源の制限や事前監査といった規制の枠組みを提案した点が大きな影響を与えます。競合各社も同様の安全基準やガバナンスについて説明責任を求められることになるはずです。

私たちは、積極的な商業展開を安全のための学習プロセスとして正当化する論理は巧妙だと考えます。しかし、激しい開発競争のなかで、本当に自らの判断で巨大な学習を止めたり減速したりできるのかという点には強い疑問が残ります。自制を促す仕組みがどこまで機能するかは、依然として不透明です。