元OpenAI暫定CEOのエメット・シアー氏、AI安全性企業「Softmax」を設立

2023年に起きたOpenAIのSam Altman解任劇で、わずか数日間だけ暫定CEOを務めたEmmett Shear氏を覚えているでしょうか。あの騒動の渦中にいた彼が、新たなAIスタートアップを立ち上げて表舞台に戻ってきました。

新会社の名前はSoftmax。Twitchの共同創業者であるShear氏に加え、Hipmunk創業者のAdam Goldstein氏、AI研究者のDavid Bloomin氏の3名がサンフランシスコで立ち上げました。現在のチーム規模は10人ほどで、Andreessen Horowitz、Lionheart Ventures、Pluralから資金調達を実施しています（金額は非公開）。

彼らが挑むのは、巨大な基盤モデルの開発競争ではなく、AIの「アライメント（整合性）」という難問です。

命令するのではなく、細胞のように協調させる

現在の大手AI企業が採用するアライメントは、人間がルールを定め、モデルを部下のように管理・統制する「階層型（ヒエラルキー型）」が主流です。

しかしShear氏は、この手法には根本的な欠陥があると指摘します。人間自身が不完全である以上、AIに課す指示が間違っていることも珍しくありません。絶対的な上下関係でAIを縛るやり方は、破綻につながると考えています。

そこでSoftmaxが提唱するのが「オーガニック・アライメント（有機的アライメント）」です。着想の源は、タフツ大学のMichael Levin氏の研究室にあります。多細胞生物の細胞やアリの巣のように、個々の要素が自律性を保ちながら役割分担し、全体のために調和する仕組みをAIに応用しようという試みです。

Shear氏によれば、真のアライメントとは一方的な服従ではなく、AI側が「人間の指示はおかしい」と押し戻せる関係性を含んでいるといいます。

数十万パラメータの仮想実験からスタート

技術的なアプローチも独特です。彼らは何千億ものパラメータを持つ大規模モデルを動かすのではなく、数十万から数百万パラメータ程度の小さな強化学習エージェントを使用しています。

箱庭のような仮想ゲーム空間にエージェントを放ち、相互作用を通じてどのような創発的行動や社会的協調が生まれるかを観察している段階です。

具体的なプロダクトや収益化の道筋について、Shear氏は現時点では明かしていません。初期のOpenAIのように、まずは基礎研究に専念し、ブレイクスルーが起きてから製品化を考える姿勢をとっています。

なぜ重要か

一般のユーザーやエンジニアにとって、今すぐ触れるAPIやアプリがあるわけではありません。現段階では完全に基礎研究フェーズの実験室であり、実用的なツールを期待して追いかける段階ではないと言えます。

しかし、AI業界全体にとっては非常に示唆に富む動きです。既存のRLHFやガードレールによる統制は、モデルが賢くなるにつれて対症療法的な限界が見え始めています。

生物学や複雑系科学の知見を取り入れ、ルールによる束縛から「自律的な役割分担」へと発想を転換したアプローチは、極めて野心的で筋が良いと評価できます。

一方で、実用化へのハードルは極めて高いと考えられます。人間に逆らう余地を持った自律的エージェントという構想は、哲学としては興味深いものの、一歩間違えれば制御不能なリスクを抱え込みかねません。わずか10人の小規模チームが、多額の計算資源を投じる大手各社とは異なる理論的ブレイクスルーを本当に提示できるのか、慎重に見極める必要があります。