百度、最大4240億パラメータの「ERNIE 4.5」マルチモーダルモデル群をオープンソース公開

百度は「ERNIE 4.5」モデルファミリーをHugging Face上でオープンソースとして公開した。0.3Bの軽量エッジ向けから最大424Bの大規模マルチモーダルまで、幅広い構成が揃っている。画像認識とテキスト生成を統合した基盤モデルや、推論に特化した思考モデルを探している開発者にとって、直接ダウンロードして試せる選択肢となる。

端境から424Bまで揃うラインナップ

ERNIE 4.5コレクションは、テキスト生成専用モデルと画像・テキストを扱うマルチモーダルモデルの2系統で構成されている。

最大のマルチモーダルモデルは「ERNIE-4.5-VL-424B-A47B」で、総パラメータ数424B、アクティブパラメータは約47Bだ。テキスト生成の最大モデルには総パラメータ約300Bの「ERNIE-4.5-300B-A47B」が用意されている。

一般的なサーバーでの運用を想定した中規模サイズとして、28Bのマルチモーダル「ERNIE-4.5-VL-28B-A3B」と21Bのテキスト向け「ERNIE-4.5-21B-A3B」も提供される。さらに端末側での動作を狙った0.3Bの小型モデルまで揃う。

PyTorch対応と思考強化版

今回の公開では、百度独自のPaddlePaddle形式だけでなく、オープンソース界隈で一般的なPyTorch形式の重みも同時に配布されている。

推論性能を重視する用途向けには、「ERNIE-4.5-21B-A3B-Thinking」およびマルチモーダル版「ERNIE-4.5-VL-28B-A3B-Thinking」という思考特化モデルが用意された。

大規模モデルの導入障壁を下げるため、300BテキストモデルにはFP8やW4A8C8-TP4、さらに複数GPU向けの極限的な2ビット量子化重みも公式から提供されている。

入手と利用方法

すべての重みと設定ファイルはHugging Faceのbaidu公式ページ内のernie-45コレクションから直接ダウンロードできる。

事前学習済みのBase版と対話調整済みのChat版がそれぞれ用意されているため、自前データでファインチューニングを行うか、そのまま推論エンジンに組み込むかを目的に応じて選択できる。

なぜ重要か

オープンソースのモデルにおいて、400B規模の超大型マルチモーダルモデルが手に入る機会は依然として貴重だ。特に21Bや28BのThinkingモデルは、限られたGPU環境でも現実的に稼働させやすく、実用性の高い落としどころになっている。

自社フレームワークに固執せず、PyTorch形式や極端な2ビット量子化を公式に提供した点からも、開発者コミュニティへの歩み寄りが見て取れる。オンプレミスで高度なマルチモーダル処理や思考推論基盤を構築したい組織は、検証リストに加えて損はないだろう。