量子着想技術で極小化、Multiverseが「ハエ脳」と「ニワトリ脳」AIモデルを発表

インターネットに接続せず、ノートPC上で推論AIを動かしたり、洗濯機に直接音声対話機能を組み込んだりする未来が現実味を帯びてきました。

スペイン・サンセバスティアンを拠点とするAIスタートアップのMultiverse Computingは、動物の脳の大きさにちなんで名付けられた超小型の高性能AIモデルシリーズ「Model Zoo」を発表しました。

公開されたのは、わずか9400万パラメータの「SuperFly」と、32億パラメータで論理的推論が可能な「ChickBrain」の2種類です。同社は、これらをチャットや音声認識、推論をこなせる世界最小クラスの高性能モデルだと説明しています。

量子物理学から生まれた圧縮技術

Multiverseはゼロから独自モデルを開発したのではなく、既存のオープンソースモデルを極限まで圧縮するアプローチをとっています。SuperFlyはHugging FaceのSmolLM2-135から、ChickBrainはMetaのLlama 3.1 8Bからそれぞれ圧縮されました。

一般的なコンピュータサイエンスの手法による枝刈りや量子化とは異なり、同社のアルゴリズム「CompactifAI」は共同創業者で物理学教授のRomán Orús氏らが持つ量子物理学の理論に基づいています。

同社の社内ベンチマークによると、3.2BのChickBrainは元の8BモデルであるLlama 3.1と比較して、言語能力のMMLU-Pro、数学テストのMath 500やGSM8K、難関知識ベンチマークのGPQA Diamondでわずかにスコアを上回ったといいます。

もちろん、クラウド上で動作する最先端の巨大フロンティアモデルと張り合うものではありません。同社の狙いは、モデルの知能を損なわずに極限まで縮小し、スマートウォッチやArduinoなどのマイコンボードで動かすことです。94MのSuperFlyは家電への組み込みを想定しており、オフラインで「お急ぎコースで洗って」といった指示を受け付けるデモを披露しています。

同社は6月にHP Tech Venturesや東芝などから約1億8900万ユーロを調達しており、現在はApple、Samsung、Sonyなどのハードウェア大手と商談を進めているとしています。また、AWS上のAPIを通じても低コストでモデルを提供しています。

なぜ重要か

エッジAIにおける最大のボトルネックは、チップの処理性能以上にモデル自体の肥大化にありました。家電やスマート機器がクラウドに頼り続ける限り、通信遅延、サーバー代、プライバシーの問題は解決しません。

Multiverseのアプローチは非常に合理的です。莫大な資金を投じてゼロから基礎モデルを事前学習する泥沼を避け、モデルの「軽量化の専門業者」に徹しています。ユーザー視点では、一般的なMacBookで通信を行わずに推論モデルをサクサク動かせるようになる点が大きな魅力です。

一方で注意も必要です。ChickBrainがベースの8Bモデルを上回ったという結果はあくまで社内テストの段階であり、独立した検証が待たれます。また94MパラメータのSuperFlyは、機器の操作など極めて限定された用途専用であり、ChatGPTのような汎用的な会話を期待するべきではありません。

それでも、安価なマイコンと量子着想の圧縮技術の組み合わせは、家電メーカーにとって強力な武器になります。ネットが切れると何もできなくなる「スマート家電」から、完全オフラインで賢く動く真の組み込みAIへの移行がここから加速しそうです。