独Aleph AlphaがGPT-3に対抗：70Bモデルで同等性能、年内には300Bモデル投入へ

ChatGPT の大流行によって生成 AI の主導権争いが過熱するなか、欧州ではかねてより「自前の基盤モデルをどう確保するか」というデジタル主権の議論が続いていました。

その問いにひとつの明確な回答を出したのが、独ハイデルベルクに拠点を置く AI スタートアップの Aleph Alpha です。同社が公表したベンチマーク結果によると、主力言語モデルが米 OpenAI の GPT-3 と同等水準の性能に達したことが明らかになりました。

半分以下のパラメータ数で GPT-3 に匹敵

検証に用いられたのは、同社が 2022 年 8 月から提供している 700 億パラメータのモデル「Luminous-Supreme」です。比較対象には、OpenAI の GPT-3 davinci（1750 億パラメータ）、Meta の OPT（1750 億パラメータ）、オープン研究組織 BigScience の BLOOM（1760 億パラメータ）が選ばれました。

評価にはオープンソース研究グループ EleutherAI のテストハーネスが使われ、分類や一般常識推論、自然言語推論などのタスクで精度が測定されました。

結果として、Luminous-Supreme は半分以下のパラメータ規模でありながら、ほぼすべてのタスクで GPT-3 と互角のスコアを記録し、1 つの項目では上回りました。Meta の OPT や BLOOM と比べても数ポイント高い成績を収めています。パラメータ数が少ないことは、実運用における計算コストの低さやスケーラビリティの高さに直結します。

追従から反撃へ、3000 億モデルで次世代を見据える

もっとも、手放しで喜んでばかりもいられません。OpenAI が GPT-3 を発表したのは 2020 年 5 月であり、欧州が同等レベルに追いつくまでに 2 年半以上を要した計算になります。その間に OpenAI は人間のフィードバックを取り入れた改良版を投入し、米 Google も 5400 億パラメータの PaLM を発表しています。

Aleph Alpha も手をこまねいているわけではありません。同社は今月、OpenAI の新モデルに対抗する「Luminous Supreme Control」を発表しました。

さらに現在、3000 億パラメータを誇る最大モデル「Luminous-World」のテストを進めています。高度でミッションクリティカルな業務への適用を想定しており、年内にリリースして GPT-4 に対抗する構えです。同社 CEO の Jonas Andrulis 氏は、欧州基準に即した透明性や説明可能性の確保こそが持続可能な発展に不可欠だと強調しています。

なぜ重要か

欧州の企業や行政機関にとって、機密データを米国のクラウド基盤に預けることなく、最高水準の AI を自国内で活用できる道が開けた意義は大きいです。同社の API やアプリを通じて、厳格なデータ保護基準を満たしたまま高度な推論を利用できるようになります。

業界全体で見れば、巨大化一辺倒だったモデル開発に対し、設計や学習の最適化によって「少ないパラメータで同等以上の性能を出す」現実的なアプローチを証明してみせました。これは資金力に限りがあるプレイヤーにとって重要な指標となります。

私たちが注目すべきだと考えるのは、同社が説明可能性と倫理的透明性を中核に据えている点です。単なる性能競争ではなく、欧州特有の厳しい法規制に最初から準拠する設計思想は、保守的な産業界への浸透において賢い戦略と言えます。

一方で懸念されるのは、今後のインフラ投資と開発資金の体力差です。米国の巨大テック企業が巨額の資金を投じるなか、3000 億パラメータ級の次世代モデルを継続して開発・運用し続けるのは容易ではありません。欧州全体での継続的な計算資源支援が追いつかなければ、再び引き離されるリスクを孕んでいます。