Hugging FaceがGroqと連携、LPUによる超高速推論プロバイダーに対応
Hugging Faceはモデル推論プロバイダーにGroqを追加したと発表した。開発者はHugging Face Hub上やSDK経由で、GroqのLPUチップを用いた低遅延推論を直接利用できる。Llama 4などのモデルに対応し、HFアカウント経由または自前のGroq APIキーで課金可能。
LPU
AIチップのGroq、サウジアラムコと提携 世界最大規模の推論拠点を構築へ
米AI半導体スタートアップのGroqはサウジアラムコと提携し、サウジアラビアに大規模なAI推論データセンターを開設すると発表した。アラムコが数億ドル規模を投じ、初期段階で1万9000基のLPUを配備して年内に稼働する予定。石油依存からの脱却を目指すサウジがAIハブ化を加速させる。
AIチップ新興のGroq、6.4億ドルを調達 ルカン氏が技術顧問に就任
米AIチップスタートアップのGroqはBlackrock主導のラウンドで6億4000万ドルを調達したと発表した。評価額は28億ドルに達する。推論特化型プロセッサ「LPU」の供給体制を大幅に拡大する計画で、MetaのチーフAIサイエンティストであるヤン・ルカン氏が技術顧問に就任した。
毎秒247トークンの衝撃 AIチップ企業Groqの「LPU」が話題に
AIチップ企業Groqが開発した「LPU」のデモがネット上で話題を集めた。第三者機関のテストでは毎秒247トークンを記録し、既存のクラウド環境より13倍以上高速とされる。遅延を大幅に抑えて自然なリアルタイム対話を実現する一方、GPUと比べた拡張性の検証はこれからだ。