Google DeepMindが「AI安全性・アライメント組織」を新設、AGIリスク対策も強化

Google の主力モデルである Gemini に少し細工した指示を与えると、米大統領選に関する偽情報や、もっともらしい嘘の出典を付けた架空の事故レポートを作成してしまう問題が指摘されています。

こうした偽情報のリスクに対して規制当局の警戒が強まるなか、Google DeepMind は 2 月 21 日、新たな組織「AI Safety and Alignment（AI 安全性とアライメント）」の立ち上げを発表しました。既存の安全性チームを再編し、新たな専門研究者やエンジニアを補充して発足します。

AGI の制御から目先のバイアス対策まで

新組織には、人間と同等の知能を持つ汎用人工知能（AGI）の安全性を専門に扱うチームが新設されます。これは OpenAI が昨年 7 月に設立した Superalignment チームと狙いを同じくするものです。

DeepMind にはもともとロンドンに Scalable Alignment と呼ばれる同様の研究チームがありますが、今回の新チームは米国の Google 本社近くに拠点を置きます。具体的な採用人数は明らかにされていません。

組織を率いるのは、UC バークレー校の教授で元 Waymo 研究員の Anca Dragan 氏です。同氏は大学の研究室と DeepMind の業務を兼務しながら、不適切な医療アドバイスの防止、子どもの保護、偏見の拡散防止といった直近の課題に取り組みます。将来的には、テロ支援や社会の混乱といった壊滅的リスクの防止も視野に入れています。

Dragan 氏は、モデル自身に「自分が何を知らないか」を自覚させる不確実性の測定や、推論時のリアルタイム監視といった技術が、目先の課題と将来的な AGI 安全性の双方に役立つと説明しています。

産業界を覆う「ハルシネーション」への不安

この動きの背景には、生成 AI に対する社会的な不信感の高まりがあります。YouGov の世論調査では米国人の 85% がディープフェイクを懸念しており、AP 通信と NORC の共同調査でも約 6 割が選挙関連の偽情報の増加を予想しています。

企業側の導入姿勢も慎重です。インテル傘下の Cnvrg.io の調査では、導入を進める企業の約 4 分の 1 が信頼性やコンプライアンスに懸念を示しており、Riskonnect の調査でも経営幹部の半数以上が従業員の AI 誤認による判断ミスを恐れていると回答しました。先週には米ウォール・ストリート・ジャーナルが、マイクロソフトの Copilot が要約や表計算で初歩的な誤りを頻発させている実態を報じたばかりです。

Dragan 氏もモデルの完全性を保証することは不可能だと認めており、近いうちに生成 AI のリスク評価フレームワークを策定する方針を示しています。

なぜ重要か

Gemini を業務に利用しているユーザーや開発者にとっては、今後モデルの出力に対するガードレールが一層厳しくなり、回答を拒否するケースが増える可能性があります。業務の自動化を急ぎたい人にとっては、依然として人間によるファクトチェックが省けない状況が続くことを意味します。

私たちは、Google がロンドンではなく米国本社に近い場所にこの新チームを設置した点に注目しています。政治的な追及や規制当局の監視が最も厳しい地元に安全部隊を配備することで、責任ある姿勢を直接アピールする狙いが透けて見えます。

一方で、責任者が大学と兼務である点や、製品のリリーススピードを優先する事業部門との力関係において、安全チームがどこまでブレーキ役を果たせるかには疑問も残ります。競合との開発競争が激化するなかで、実質的な制御技術の確立よりも、単なる企業防衛のパフォーマンスに終わらないかが試されています。