Hugging FaceがGroqと連携、LPUによる超高速推論プロバイダーに対応
Hugging Faceはモデル推論プロバイダーにGroqを追加したと発表した。開発者はHugging Face Hub上やSDK経由で、GroqのLPUチップを用いた低遅延推論を直接利用できる。Llama 4などのモデルに対応し、HFアカウント経由または自前のGroq APIキーで課金可能。
Hugging Face Hub
Hugging Face、XetHubを買収 Git LFS代替で巨大モデルの更新を効率化
Hugging Faceは大規模データ管理技術を手掛けるXetHubの買収を発表した。独自のチャンク分割と重複排除により、従来のGit LFSに代わるバックエンドを構築する。大規模モデルのメタデータ変更も数キロバイトの転送で済むようになり、開発効率を高める。
Hugging FaceとGoogle Cloudが提携、Vertex AIやTPUでオープンモデル活用を容易に
Hugging Face は Google Cloud との戦略的提携を発表した。開発者は Google Kubernetes Engine や Vertex AI 上で Hugging Face のオープンモデルを手軽に学習・デプロイできるようになり、TPU などのインフラも活用可能になる。オープンソース資産とクラウド基盤が連携し、企業の独自 AI 構築が一段と身近になりそうだ。