AI推論チップのGroq、Definitive Intelligenceを買収　クラウド基盤を強化

大規模言語モデルの出力速度で話題をさらうAIチップ企業が、本格的なクラウド展開に向けて動き出しました。

AI推論チップを手がける米スタートアップのGroqは、データ分析企業Definitive Intelligenceを買収したと発表しました。買収額は非公開です。この買収により、同社の独自チップへのオンデマンドアクセスを提供するクラウド基盤「GroqCloud」の強化を急ぎます。

驚異的な推論速度をクラウド経由で開放する

Groqは2016年、米Googleで機械学習プロセッサ「TPU」を開発したJonathan Ross氏が設立した企業です。Tiger GlobalやD1 Capitalなどから出資を受け、累計調達額は3億6000万ドルを超えています。

同社の主力製品は「LPU」と呼ばれる推論特化型チップです。昨年11月のベンチマークでは、Metaのオープンモデル「Llama 2 70B」を動かして最速記録を打ち立て、競合製品と比べて最大10倍高速に推論を実行できると主張しています。

LPUはTSPと呼ばれるコアで構成され、それぞれ約230メガバイトのメモリを搭載しています。各コアはチップ上のネットワークで結ばれ、データ移動にかかる時間を把握できるため、モデルが最も速いデータ経路を選んで計算を加速させます。

このハードウェアの性能を開発者に届けるため、同社はGroqCloudを立ち上げました。開発者は学習リソースを活用しながら、LPUアーキテクチャに最適化したアプリケーションを構築できます。

プラットフォーム構築を支援したチームをそのまま統合

買収されたDefinitive Intelligenceは、カリフォルニア州パロアルトを拠点とし、これまでに1000万ドル以上の資金を調達したスタートアップです。自然言語による指示でデータセットを検索したり、グラフを作成したりできるAIツールを提供していました。

実は同社は、買収前からGroqCloudの開発を支援していました。Groqにとっては、すでに自社のクラウド基盤を熟知している開発チームをそのまま社内に取り込む形になります。

買収に伴い、Definitive Intelligenceの共同創業者兼CEOであるSunny Madra氏がGroqに合流し、GroqCloud事業部門を率いることになりました。プラットフォームの処理能力拡大とユーザーベースの拡大を優先課題として進めます。

さらにGroqは、政府機関などの大規模組織向けにLPUの導入を支援する新部門「Groq Systems」の立ち上げも同時に発表しました。

なぜ重要か

リアルタイムな音声対話AIや自律型エージェントを作る開発者にとって、推論の遅延は最大のボトルネックです。GroqCloudが拡充されれば、高価なハードウェアを用意することなく、API経由でこの圧倒的な推論速度を試せるようになります。

業界全体を見渡すと、Nvidiaの一強体制を崩すにはチップの処理性能だけでは不十分で、ソフトウェア環境とAPIの手軽さが欠かせません。優れたハードウェアを持ちながらプラットフォーム整備でつまずく半導体企業が多い中、クラウドを熟知したチームを買収したGroqの判断は極めて合理的と言えます。

一方で課題もあります。LPUは各コアに約230MBのメモリしか持たないため、大規模なモデルを多数の同時接続環境で安定して回すには、複雑なクラスタ運用が求められます。クラウドの利用者が急増した際に、コストと安定性を両立できるかは今後の試金石になりそうです。