Stability AI、12B言語モデル「Stable LM 2 12B」を公開

Stable LM 2 12Bは、Stability AIが公開した120億パラメータの中型オープン言語モデルだ。多言語対応、ツール利用、そして一般的なハードウェア環境での実行しやすさを両立している。複数枚の高価なGPUを用意せず、実用的なマシンでローカルLLMを動かしたい開発者にとって有力な選択肢になる。

何ができるのか

本モデルにはベース版と指示チューニング版の2種類が用意されている。どちらも英語、スペイン語、ドイツ語、イタリア語、フランス語、ポルトガル語、オランダ語の7言語にまたがる2兆トークンのデータで学習された。

特に指示チューニング版は、ツールの活用や関数呼び出しに最適化されている。外部データベースと連携する検索拡張生成システムの推論エンジンとして組み込む用途が想定されている。

また、超軽量モデルであるStable LM 2 1.6Bのアップデート版も同時にリリースされた。1.6B版も同様に7言語での会話能力と関数呼び出しに対応し、極めて低いシステム要件を維持している。将来的にはコンテキスト長を拡張したバージョンの提供も予定されている。

性能と動作要件

12Bというパラメータ規模は、単一GPUや一般的な開発環境で扱いやすい実用的なサイズだ。大量のメモリを消費する大規模なMoEモデルと比べ、広く流通しているハードウェア上でスムーズに動作する。

ベンチマークにおいて、Stability AIはMixtral、Llama 2、Qwen 1.5 14B、Gemma 8.5B、Mistral 7Bなどと比較を実施した。Open LLM Leaderboardや改訂版MT-Benchにおいて、ゼロショットおよびフューショットの双方で堅実な推論性能を示している。

モデルの重みはHugging Face上で公開されており、ブラウザ上のデモも利用可能だ。非商用目的の研究であれば無料で利用できるが、商用プロダクトに組み込む場合はStability AI Membershipへの加入が必要となる。

なぜ重要か

Stable LM 2 12Bは、ローカル環境で自律型エージェントやRAGを構築したい層に向けた極めて実用的なアプローチだと考える。巨大なパラメータ規模を競うのではなく、メモリ消費の抑制と関数呼び出しの精度という現場の需要に照準を合わせている。

欧州言語を扱うプロジェクトや、データをクラウドAPIに送りたくない企業にとって扱いやすい基盤となる。ただし完全なオープンソースライセンスではなく、商用利用には会員資格が求められるため、導入前の規約確認が不可欠だ。