サム・アルトマン氏が語るAIの真の脅威：「殺人ロボット」より恐ろしい社会のズレ

AIの脅威と聞くと、SF映画のように武装したロボットが街を占拠したり、自我を持ったシステムが人類を滅ぼそうとしたりする光景を思い浮かべがちです。

しかし、現在のAIブームの中心にいるOpenAIのサム・アルトマンCEOが見ている現実は、まったく別のところにあります。

ドバイで開催された世界政府サミット（World Governments Summit）にビデオ通話で登壇したアルトマン氏は、夜も眠れなくなるほど懸念しているのは「街を歩き回る殺人ロボット」ではないと明言しました。

悪意なき「微妙な社会のズレ」が牙をむく

アルトマン氏が最も警戒しているのは、本人が「非常に微妙な社会的ズレ」（very subtle societal misalignments）と呼ぶ現象です。

開発者にも利用者にも悪意はなく、システム自体も反乱を起こそうとしているわけではない。それでも、AIツールが社会全体に組み込まれていく中で、インセンティブや判断の小さな食い違いが積み重なり、結果として取り返しのつかない大混乱を引き起こしてしまうリスクを恐れているといいます。

AIの進化スピードは世界の大方の予想を上回る可能性が高いため、同氏は国際原子力機関（IAEA）のような枠組みを設け、国境を越えて監視体制を作るべきだと改めて訴えました。

一方で、OpenAIのような当事者企業がルール作りの「運転席」に座るべきではないとも釘を刺しました。現在世界中で開かれている議論や政策提言は健全なプロセスだとしつつも、今後数年以内には国際社会が実効性のある行動計画に踏み切る必要があると述べています。

現在の技術水準について、アルトマン氏はかつての「白黒画面の携帯電話」に過ぎないと例えました。当初は論文の不正作成を恐れていた教育現場が、いまでは将来に不可欠なツールとして受け入れ始めている変化を歓迎しつつ、あと数年もすれば格段に良くなり、10年後には目覚ましい進化を遂げているはずだと展望を語りました。

壇上の対話と現実の摩擦

対談は和やかに進みましたが、足元の現実は複雑です。

会場となったアラブ首長国連邦（UAE）は言論統制が厳しく、ChatGPTのような機械学習モデルが回答の質を保つために必要とする、正確で自由な情報流通には制約があります。UAEの有力企業G42は高度なアラビア語モデルを擁する一方で、スパイウェア疑惑や米国の遺伝子情報を中国政府のために収集した疑いを持たれ、米国の懸念を受けて中国サプライヤーとの関係を断つと表明したばかりでした。しかし、モデレーターを務めたUAEのAI担当国務大臣との間で、こうした地域特有の問題には触れられませんでした。

OpenAI自身も、マイクロソフトからの巨額出資やAP通信との記事アーカイブ提携を進める一方、ニューヨーク・タイムズから許諾のない学習利用を理由に提訴されるなど、法的・社会的な摩擦の渦中にあります。

なぜ重要か

アルトマン氏が殺人ロボットという極端な終末論を否定し、社会構造との静かなミスマッチに焦点を当てたのは、非常に現実的な着眼点だと私たちは考えます。

一般のユーザーや企業にとっても、警戒すべきはSF的な反乱ではなく、日常業務に組み込まれたアルゴリズムが少しずつ判断を歪め、気付いたときには社会インフラが誤作動しているような事態です。白黒携帯の段階ですらこれだけの影響力を持っている以上、性能が跳ね上がるこれからの数年間は、誤情報の拡散やバイアスの蓄積に対する警戒が欠かせません。

また、「業界自身が規制の主導権を握るべきではない」と言いながら国際機関の設立を促すアルトマン氏の姿勢は、責任あるリーダーを演じつつ、厄介な責任問題を各国政府に委ねる巧妙な立ち回りとも映ります。

各国が会議と議論を重ねている間にも、モデルの開発速度は落ちません。国際社会が合意形成に手間取っていれば、ルールが定まる前に、その「微妙なズレ」が社会の隅々に定着してしまう危険があります。