DeepMindのハサビスCEO、AI開発に警鐘：「素早く動き破壊せよ」に反対

ロンドンに新設されたDeepMind本社の吹き抜けには、3階分の高さを誇る金色のDNA二重らせんオブジェがそびえ立っています。CEOのデミス・ハサビス（Demis Hassabis）氏が「知識の大聖堂」と呼ぶこの場所の会議室には、ジェームズ・クラーク・マクスウェルをはじめとする偉大な科学者の名が刻まれています。

しかし、米TIME誌の単独インタビューに応じた46歳のリーダーが口にしたのは、熱狂するAI業界に冷水を浴びせるような強い警告でした。

シリコンバレーの合言葉を否定

「素早く行動し、破壊せよ（Move fast and break things）というアプローチには反対です」とハサビス氏は語りました。かつてFacebookが掲げ、新興スタートアップがこぞって真似たこのスローガンは、まずは世に製品を出し、問題が起きたら後から直せばいいという思想を象徴しています。

その手法はFacebookを30億人規模のプラットフォームへ押し上げた反面、偽情報やヘイトスピーチの蔓延に対して完全に無防備な状態を生み出しました。ハサビス氏は、同様の無謀さを汎用人工知能（AGI）の開発に持ち込むべきではないと訴えています。

ハサビス氏は、思考し学習するAGIを「電気の利用」に匹敵する時代を画するテクノロジーだと位置づけています。しかし、技術がもたらす危険はすでに現実味を帯びています。最近では、新薬開発用のAIが容易に致死性の化学兵器の設計へ転用可能であることが研究者によって示されました。

さらに、大衆向け製品のトラブルも目立っています。2022年12月に公開されたOpenAIのChatGPTは世界的な注目を集めたものの、差別的発言や誤情報の拡散が批判の的となりました。Prisma Labsの写真編集アプリ「Lensa」も、生成画像が過剰に性的になるといった訓練データの偏向問題に直面しています。

象牙の塔から広がるリスク

DeepMind自身は、科学的課題の解決に重きを置いてきました。同社が開発したAlphaFoldは人類が知るほぼすべてのタンパク質構造を予測し、そのデータはマラリアワクチン開発やプラスチック汚染対策のために世界中の科学者へ無償公開されています。現在は核融合制御への機械学習の応用にも取り組んでいます。

しかし、最先端AIを研究するために高額な設備を備えた研究所に籠もる必要は薄れつつあります。計算コストが低下し、手法が広く知れ渡るにつれて、AIツールはより多くの人々の手に届くようになりました。参入障壁が下がったことで、悪用のリスクも急速に高まっています。

なぜ重要か

業界全体が商用化とスピード競争に沸く中で、DeepMindのトップが「ブレーキを踏むべきだ」と公に発言した意味は小さくありません。競合のOpenAIがChatGPTで市場の関心を一気にさらったのに対し、Google傘下のDeepMindは信頼性と安全性を前面に押し出す姿勢を鮮明にしています。ブランド毀損を避けたい巨大テックの防衛策という側面もあると見てよいでしょう。

ユーザーや開発者にとっても、AIの安全基準はもはや無視できない要素になります。化学物質の合成やサイバー攻撃への懸念が開発元のトップから直接指摘された以上、規制当局の動きが加速することは避けられません。今後、特定分野のモデル利用には厳しい本人確認や利用制限が課される可能性があります。

ただ、自社が立ち止まっても競合やオープンコミュニティの開発が止まるわけではありません。誰でも強力なモデルに触れられるようになったいま、「慎重な開発」をどうやって業界全体の足並みとして揃えるのか、その実効性には依然として大きな疑問が残ります。