Meta、次世代AI推論チップ「MTIA」を発表：性能と帯域幅が倍増

世界中がNVIDIA製GPUの争奪戦を繰り広げる中、Metaは着々と自社製AIチップの実戦投入を進めています。

Metaは次世代の独自AIチップ「MTIA」の詳細を発表しました。主にFacebookやInstagramの推薦・ランキングアルゴリズムの推論に特化したプロセッサで、すでに世界16地域のデータセンターで本番運用に入っています。

推薦エンジンに特化したメモリと帯域の強化

大規模言語モデルの華やかさに目を奪われがちですが、Metaの収益を支える心臓部は、日々数十億人のフィードに表示される広告やリール動画の推薦システムです。

この推薦モデルは、一般的な生成AIと異なり、計算能力だけでなくメモリ帯域と低レイテンシが極めて重要になります。新世代MTIAはTSMCの5nmプロセスを採用し、クロック周波数は前代の800MHzから1.35GHzへ引き上げられました。消費電力も25Wから90Wへと拡大しています。

性能面では、密行列計算で3.5倍、推薦アルゴリズムで多用される疎行列計算では7倍の高速化を達成しました。チップ上のSRAM容量は256MBへと倍増し、帯域幅は毎秒2.7TBに達します。外部メモリも128GBのLPDDR5を搭載しました。

システム設計も強化され、ラック1台に最大72個のMTIAアクセラレータを搭載可能で、相互接続にはPCIe Gen5を採用しています。

PyTorch資産を生かし9か月で実戦投入

カスタムチップの成否を分けるのはソフトウェア環境ですが、PyTorchの生みの親であるMetaには大きな優位性がありました。

同社はPyTorch 2.0に直結する専用のTriton-MTIAコンパイラバックエンドを構築しました。初代MTIA向けコードと完全な互換性を維持したため、開発者はわずか数日で本番トラフィックを新チップに切り替えることができました。

最初のシリコンサンプルが届いてから、16地域のデータセンターで本番稼働するまでにかかった期間はわずか9か月未満です。代表的な4つの推薦モデルによる評価では、初代比でチップ単体性能が3倍、ラックシステム全体のスループットは6倍向上しています。

なぜ重要か

一般ユーザーにとって、このチップが店頭に並ぶことはありませんが、フィードのパーソナライズ精度や広告の表示速度の向上という形で日常的に恩恵を受けることになります。

業界全体から見ると、NVIDIAへの過度な依存から抜け出すための極めて現実的な手本と言えます。Metaは、全領域で汎用GPUを置き換えようとするのではなく、自社で最も計算リソースを消費する推薦推論処理を自前チップへ逃がす道を選びました。

この戦略は賢明だと考えられます。日常的な推論コストと消費電力を大幅に抑えることで、浮いた予算と貴重なNVIDIA GPUを最先端の大規模言語モデルの学習に集中投入できるからです。自社特化型推論チップと汎用GPUを組み合わせるハイブリッド運用は、今後の巨大テック企業における標準戦略になりそうです。