Appleが明かす端末向けLLM最適化：フラッシュメモリ活用でRAMの2倍のモデルを駆動

スマートフォン上で大規模言語モデル（LLM）を動かす際、最大の障壁となってきたのはチップの計算性能ではなく、DRAMのメモリ容量不足でした。

Appleはこの課題を打破する研究論文「LLM in a flash: Efficient Large Language Model Inference with Limited Memory」を公開しました。モデルのパラメータを内蔵フラッシュメモリに保存し、必要な分だけをDRAMへオンデマンドで読み込む手法を提案しています。

フラッシュメモリの特性を活かす2つの技術

フラッシュメモリは安価で大容量ですが、DRAMに比べて読み込み速度が大幅に劣ります。単純にデータを逐次読み込むだけでは、実用的な処理速度は得られません。

そこでAppleはフラッシュの物理特性に合わせた推論コストモデルを構築し、データ転送量の削減と、より大きく連続したデータチャンクでの読み出しという2点に絞って最適化を行いました。

これを実現したのが2つの独自技術です。

1つ目は「ウィンドウイング（windowing）」です。推論時に過去に活性化されたニューロンを再利用することで、フラッシュからDRAMへ転送するデータ量を大幅に減らします。

2つ目は「行・列バンドリング（row-column bundling）」です。フラッシュメモリの強みであるシーケンシャルアクセス（連続読み出し）を活かすため、読み出すデータの塊を大きくまとめる工夫を施しました。

これらのアプローチにより、利用可能なDRAM容量の最大2倍のサイズを持つモデルを実行可能にしました。単純な読み出し方式と比較して、推論速度はCPUで4〜5倍、GPUでは20〜25倍に向上したとしています。

iOS 18を見据えた端末AI競争

この研究は、Appleが「iOS 18」で本格的な生成AI機能の統合を計画しているとされる中で大きな意味を持ちます。

次期OSではSiriやメッセージアプリが強化され、より高度な質問回答や文章の自動補完が可能になるとみられています。さらに、Apple Music、Pages、Keynote、Xcodeといったアプリ群への生成AI活用も模索されています。

一方、競合各社もオンデバイスAIの投入を急いでいます。

Samsungは独自モデル「Gauss」を発表し、2024年初頭のGalaxy S24シリーズを皮切りに、スマートフォンやノートPC、タブレットへ順次展開する方針です。

GoogleもPixel 8シリーズ向けにオンデバイス特化型モデル「Gemini Nano」を発表しており、レコーダーアプリの要約やGboardのスマートリプライなどの機能を提供し始めています。

なぜ重要か

今回の論文が示すアプローチは、オンデバイスAIの普及において最大のボトルネックだったハードウェアコストを回避する極めて現実的な解です。

ユーザーにとっての価値は明確です。将来の生成AI機能を使うために、大容量RAMを積んだ高価なハイエンド端末へ無理に買い換える必要がなくなる可能性があります。処理が手元の端末内で完結すれば、プライバシーが守られ、オフラインでも安定して動作します。

業界全体から見ても、メモリを物理的に増設するのではなく、ソフトウェアとストレージの工夫で2倍のモデルを動かすアプローチは極めて巧妙です。GoogleやSamsungなどのライバルに対しても、メモリ管理レイヤーでの最適化競争を迫ることになるでしょう。

懸念点としては、頻繁なフラッシュメモリへのアクセスが長期的なストレージ寿命や発熱、バッテリー消費にどの程度影響を与えるかという点が残されています。それでも、手のひらサイズの端末で実用的なLLMを動かすための現実的な突破口を提示した意義は大きいと考えます。