ロイター報道:OpenAI解任劇の引き金か、新AI「Q*」の脅威訴える内部書簡
ロイター報道によると、サム・アルトマン氏が解任される直前、研究者らが「Q*(Qスター)」と呼ばれるAIのブレークスルーが人類の脅威になり得ると取締役会に書簡で警告していた。膨大な計算資源で数学問題を解く能力を示し、AGIへの突破口と見なされていたという。

OpenAI の Sam Altman CEO が電撃解任され、わずか数日で復帰した騒動の裏で、その引き金となった技術的背景が明らかになりました。
Altman 氏が追放される直前、複数の研究者が取締役会宛てに手紙を送り、人類を脅かす可能性のある強力な AI の発見について警告していたとロイターが報じました。関係者によると、この手紙が解任劇の重要なきっかけの 1 つになったとされています。
謎のブレイクスルー「Q*」
関係者の証言によると、同社幹部の Mira Murati 氏は水曜日、従業員に対し「Q*(キュー・スター)」と呼ばれる画期的な技術に関する手紙が取締役会の引き金になったと説明しました。
社内の一部では、この Q* が OpenAI の目指す AGI(汎用人工知能)への決定的な進展になり得ると捉えられていました。OpenAI は AGI を「人間より賢い AI システム」と定義しています。
膨大な計算リソースを投入されたこの新モデルは、特定の数学の文章題などを解くことができたとされています。現時点の成績は小学生レベルの計算にとどまるものの、推論によって正解を導き出す能力を示したことで、研究チームは今後の発展性に強い期待を寄せていました。なお、ロイターはこの能力を独自に検証できておらず、OpenAI もコメントを控えています。
700 人の造反と電撃復帰
手紙を受け取った取締役会は Altman 氏を突如解任し、それに抗議して共同創業者の Greg Brockman 氏も辞任しました。
しかし、元 Twitch CEO の Emmett Shear 氏を暫定トップに据えた取締役会の目論見はすぐに崩れました。Microsoft が Altman 氏らの受け入れを表明すると、OpenAI の 700 人を超える従業員のほぼ全員が、Altman 氏の復帰と取締役の退任を求めて署名運動を起こしました。
従業員たちは Microsoft への移籍をちらつかせ、最終的に感謝祭の連休直前に Altman 氏が CEO へ復帰することで決着しました。
なぜ重要か
この騒動は、AI の急速な商業化と安全性の懸念が極限まで衝突した象徴的な出来事です。
もし Q* が噂通り数学的推論の突破口を開いたのであれば、言葉の確率予測に頼っていたこれまでの言語モデルから、論理的に自律思考するシステムへの大きな転換点になります。プログラミングや科学研究の支援ツールとして実用化されれば破壊的な価値を持ちますが、現時点で一般ユーザーが触れる段階には到底ありません。
我々は、取締役会の対応は極めて拙劣だったと考えています。技術的ブレイクスルーの安全性を巡る議論を、不透明なクーデターという形で処理しようとした結果、非営利ガバナンスの形骸化を露呈させてしまいました。
結果として、Microsoft の巨大な計算資源と全従業員の団結を背にした Altman 氏が全権を握り、商業化を推進する陣営が圧倒的な勝利を収めたように見えます。安全性を重視するストッパーが機能不全に陥った今、業界全体がさらなるスピード重視の開発競争へ突入することは避けられません。
情報源 (1)
- smh.com.au(新しいタブで開きます)原文smh.com.au