Nvidia、推論特化チップ「Groq 3」発表:毎秒1500トークンでマルチエージェントを加速
NvidiaはGTC 2026で推論特化型プロセッサ「Groq 3」とサーバーラックを発表した。200億ドルの技術ライセンス契約から生まれた初のチップで、新世代Rubin GPUと組み合わせることで消費電力あたりのスループットを35倍に向上させ、エージェント間の超高速通信を支える。
NvidiaはGTC 2026で推論特化型プロセッサ「Groq 3」とサーバーラックを発表した。200億ドルの技術ライセンス契約から生まれた初のチップで、新世代Rubin GPUと組み合わせることで消費電力あたりのスループットを35倍に向上させ、エージェント間の超高速通信を支える。
GroqはNvidiaと推論技術に関する非独占ライセンス契約を結んだと発表した。創業者のジョナサン・ロス氏やサニー・マドラ社長らはNvidiaに移籍して技術普及を支援する。Groqはサイモン・エドワーズ氏がCEOに就任して独立企業として存続し、GroqCloudも継続提供される。
Hugging Faceはモデル推論プロバイダーにGroqを追加したと発表した。開発者はHugging Face Hub上やSDK経由で、GroqのLPUチップを用いた低遅延推論を直接利用できる。Llama 4などのモデルに対応し、HFアカウント経由または自前のGroq APIキーで課金可能。
VentureBeatの報道によると、AI電話サポートのPhonelyはMaitaiおよび半導体企業Groqと提携し、LoRAの低遅延切り替え技術を活用して音声AIを高速化しました。最初のトークン生成時間は176ミリ秒まで短縮され、回答精度は99.2%に向上。すでに利用者の7割以上が人間と区別できず、月内だけで人間のオペレーター350人を代替する顧客も現れています。
GroqとPlayAIが提携を発表し、音声モデル「Dialog」をGroqCloud上で提供開始した。会話の流れを把握して感情や抑揚を反映する独自アーキテクチャを備え、英語とアラビア語に対応。GroqのLPUによりGPUを上回る毎秒140文字の超低遅延生成を実現している。
Groq は誰でも即座に利用できる「Developer Tier」の提供を開始した。順番待ちなしでアップグレードでき、レート制限の引き上げ、世界各国の決済対応、バッチ処理機能などを備える。高速推論 API の拡張がよりスムーズになった。
米AI半導体スタートアップのGroqはサウジアラムコと提携し、サウジアラビアに大規模なAI推論データセンターを開設すると発表した。アラムコが数億ドル規模を投じ、初期段階で1万9000基のLPUを配備して年内に稼働する予定。石油依存からの脱却を目指すサウジがAIハブ化を加速させる。
米AIチップスタートアップのGroqはBlackrock主導のラウンドで6億4000万ドルを調達したと発表した。評価額は28億ドルに達する。推論特化型プロセッサ「LPU」の供給体制を大幅に拡大する計画で、MetaのチーフAIサイエンティストであるヤン・ルカン氏が技術顧問に就任した。
AI推論チップを手がけるGroqはデータ分析スタートアップのDefinitive Intelligenceを買収したと発表した。同社はGroqのLPUチップにアクセスできる「GroqCloud」の構築を支援しており、今後はクラウド基盤の拡充に加え、法人や政府機関向けにGroq Systemsの立ち上げを進める。
AIチップ企業Groqが開発した「LPU」のデモがネット上で話題を集めた。第三者機関のテストでは毎秒247トークンを記録し、既存のクラウド環境より13倍以上高速とされる。遅延を大幅に抑えて自然なリアルタイム対話を実現する一方、GPUと比べた拡張性の検証はこれからだ。