Metaとクアルコムが提携、2024年からスマホ上で「Llama 2」を直接動作へ
クアルコムとMetaはMetaのオープンソース大規模言語モデル「Llama 2」を、2024年からクアルコム製チップを搭載したスマートフォンやPC上で直接動作させる計画を発表しました。巨大なクラウドデータセンターに頼らず端末側で処理することで、運用コストを抑えつつ高速なAIアシスタントの実現を目指します。

生成AIブームの恩恵を一手に受け、株価が220%以上も跳ね上がったNVIDIAの陰で、クアルコムなど端末向けプロセッサ大手の株価はわずか約10%の上昇にとどまり、取り残された格好になっていました。
そんなクアルコムが、AIの戦場をクラウドから手元のデバイスへと引き戻そうとしています。
同社は火曜日、Metaと提携し、同社の最新オープンソース大規模言語モデル「Llama 2」をクアルコム製チップを搭載したスマートフォンやPC上で2024年から直接動作させると発表しました。
巨大モデルをポケットに押し込む試み
これまで、大規模言語モデルを動かすにはデータセンターにある大量のGPUと膨大な電力が不可欠でした。
しかしクアルコムが目指すのは、通信を介さずにデバイス単体で推論を行うエッジAIです。サーバー代を大幅に削減できるだけでなく、通信遅延のない高速で賢い音声アシスタントなどを実現できます。
これを可能にしたのがMetaのオープン戦略です。GPT-4やBardが内部の重みデータを厳重に秘匿しているのに対し、MetaはLlama 2の重みを無償で公開しました。中身がオープンだからこそ、容量を削ってスマホに収まる小さなプログラムにパッケージ化できるわけです。
クアルコムのチップにはAI処理に適したテンソル演算ユニットが組み込まれており、両社は以前からVR機器「Meta Quest」のチップ開発でも深く協力してきました。
とはいえ、バッテリーで動くスマホの処理能力は、最新GPUが並ぶデータセンターとは比較になりません。以前クアルコムが披露したスマホ上での画像生成AI「Stable Diffusion」のデモも、動作速度はお世辞にも速いとは言えないものでした。
なぜ重要か
一般ユーザーにとって最大のメリットは、プライバシー保護と通信費・利用料の削減です。個人データを外部サーバーに送らず、完全オフラインでスマホが私設秘書のように働いてくれる未来が見えてきます。2024年の実用化を待つ必要はありますが、高額なクラウドAPI費用に悩んでいた個人開発者にとっても大きな転換点になります。
業界全体で見れば、クラウドGPUの独占状態から、端末側のエッジAIへと競争軸を強制的にシフトさせる一手です。アップルやメディアテックはもちろん、PC向けチップ各社も端末内AIの最適化を急がざるを得なくなります。
クラウドでNVIDIAに対抗するのは無謀ですが、すでに世界中の端末を押さえている強みを活かした戦略は非常に巧みだと考えられます。課題は、日常使いに耐えうる実用的な速度とバッテリー持ちをどこまで両立できるかであり、単なる技術アピールに終わらないかが問われます。
情報源 (1)
- cnbc.com(新しいタブで開きます)原文cnbc.com