Meta、次世代LLM「Llama 3」を学習中と発表　年内にH100を34万基超確保へ

これまで「AGI（汎用人工知能）」という言葉を慎重に扱ってきたMetaのマーク・ザッカーバーグCEOが、ついに本格参戦を表明しました。

ザッカーバーグ氏は次世代の大規模言語モデル「Llama 3」の事前学習を開始したと発表しました。単なる性能向上にとどまらず、AGIの実現を明確な目標に据え、高度な推論、計画、コード生成能力の獲得を狙います。

H100を34万基確保、巨額の計算資源で圧倒

フロンティアモデルの開発において最大の武器となるのが計算資源です。ザッカーバーグ氏は米メディアThe Vergeのインタビューで、2024年末までにNVIDIAの最先端GPU「H100」を34万基以上保有する見通しを明かしました。

既存のA100や自社チップなどを含めると、Meta全体の計算基盤はH100換算で約60万基相当に達します。調査機関の推計によると、2023年時点のMeta向けH100出荷数は約15万基で、Microsoftと並び他社の3倍以上でした。ザッカーバーグ氏は、単一企業としては世界最大級のインフラを構築していると自信を見せています。

インフラと並んで激化しているのが人材獲得競争です。トップクラスの研究者には年俸100万ドル（約1億5000万円）超の好待遇が提示される中、ザッカーバーグ氏自身が直接引き留めや採用交渉に動いているといいます。

また組織面でも大きな再編が行われました。ヤン・ルカン氏らが率いる基礎AI研究組織「FAIR」が、ハードウェア部門のReality Labsから、Chris Cox氏が統括する主力アプリ部門（Family of Apps）へと移管されました。研究成果をFacebookやInstagramなどの数十億人のユーザー向けプロダクトへ直接結びつける狙いです。

Llama 2の反省を生かし、業界トップを狙う

Llama 3の強化ポイントについて、ザッカーバーグ氏は前世代での学びを語っています。

Llama 2の開発時、WhatsAppでプログラミングの質問をする人は少ないと想定され、コード生成能力は軽視されていました。しかし実際には、コードの理解こそが論理的思考や知識の構造化をモデルに定着させる鍵であることが判明しました。そのためLlama 3では、コード生成と高度な推論能力が中核に据えられています。

またオープン性を巡り、ザッカーバーグ氏はOpenAIなどの競合を牽制しました。かつてオープンを掲げていた企業が、価値が高まるにつれて閉鎖的になり、それを「安全性」という名目で正当化していると批判しています。ただし、将来MetaがAGIに到達した際にそれを完全にオープンソース化するかどうかについては、明言を避けました。

なお、メタバースからの撤退は否定しており、Reality Labsには年間150億ドル以上を投じ続けています。Ray-BanスマートグラスへのAI搭載や、誰もがAIキャラクターを作成してSNSに投稿できるプラットフォームの提供など、AIとハードウェアの融合を加速させる考えです。

なぜ重要か

今回の発表は、生成AIの競争環境においてMetaが「ゲームのルールを変える存在」であることを改めて示しています。

開発者や企業にとって、業界最高峰クラスのモデルがオープンソース（オープンウェイト）として提供されれば、特定のクローズドなAPIに依存するリスクを大幅に減らせます。自社サーバーでの運用や自由なファインチューニングの選択肢が広がり、AI活用のコスト構造が劇的に改善される可能性があります。

業界全体にとっても、OpenAIやGoogleに対する強烈なプレッシャーとなります。Metaの本業はSNS広告であり、モデルのライセンス料で稼ぐ必要がありません。最先端モデルを無償開放して競合の利益源を「コモディティ化」し、世界中の開発者を自社のエコシステムに巻き込む戦略は極めて巧妙です。

一方で課題もあります。60万基相当という圧倒的な計算資源の集中は、巨大テックと一般企業の格差をさらに広げることになります。また、Metaのオープン路線はあくまで経営戦略の一環であり、最終決定権は株式の過半を握るザッカーバーグ氏個人にあります。真のAGIが近づいたとき、その扉が本当に開かれ続けるのかは注視する必要があります。