Hugging Face、Google Cloud TPU v5e を提供開始：1時間1.38ドルから

クラウド上でオープンソースのAIモデルを動かそうとする際、これまではNVIDIA製GPUを選ぶのがほぼ唯一の当たり前でした。しかしHugging Faceで、新しい選択肢が加わりました。

Hugging Faceは、Google Cloudの独自AIチップ「TPU v5e」を、同社のInference EndpointsおよびSpacesで利用可能にしたと発表しました。Google Cloudの複雑なコンソールを操作することなく、数回のクリックでモデルをTPU上で本番稼働させることができます。

1時間1.38ドルからの3つの構成

利用できるハードウェアはGoogleのTPU v5eで、クラウドプロバイダーにGCPを選び、リージョンをus-west1に設定することで立ち上げられます。用意された構成は現時点で3種類あります。

最小構成のv5litepod-1は、1コアと16GBメモリを搭載し、料金は1時間あたり1.375ドルです。20億パラメータ（2B）規模までの軽量モデルを余裕を持って動かすのに向いています。

より大きなモデル向けには、4コアと64GBメモリを備えたv5litepod-4が1時間あたり5.50ドルで提供されます。最上位のv5litepod-8は8コアと128GBメモリで1時間あたり11.00ドルとなり、モデルのレイテンシを抑えたい用途に適しています。

また、Webアプリやデモを公開できるHugging Face Spacesでも同一の構成が選べるようになっており、設定画面からTPU環境へ簡単に切り替えが可能です。

ソフトウェアの壁をOptimum TPUで解消

TPUへの移行で最大の難所とされてきたのがソフトウェア環境の違いですが、Hugging FaceはGoogleと共同で「Optimum TPU」というオープンソースライブラリを整備しました。

Inference Endpointsでは、このOptimum TPUと推論エンジンText Generation Inference（TGI）を組み合わせることで、TPU上での大規模言語モデル配信を自動化しています。

現時点で、Gemma、Llama、Mistralといった代表的なモデルアーキテクチャがすでに対応しており、コードを書き換えることなく数クリックでデプロイできるようになっています。

なぜ重要か

私たちは、この取り組みがGPU不足やコスト高に悩む開発者にとって極めて実用的な代替手段になると考えています。特に小規模な検証や軽量モデルの運用において、1時間あたり1.4ドル以下から動かせる選択肢があることは、個人のクリエイターやスタートアップにとって大きな魅力です。

業界全体から見れば、NVIDIAのCUDAエコシステムに依存しきっていたオープンソースコミュニティへ、Googleが最も効果的な形で切り込んできたと言えます。専門的なインフラ構築を省き、Hugging Faceの管理画面から選べるようにした手軽さは非常に巧みです。

もちろん、現時点では対応アーキテクチャが主要モデルに限られるという制約は残ります。特殊なカスタムモデルを動かすには依然としてGPUのほうが融通が利きますが、日常的な推論インフラの分散という観点では、試してみる価値が十分にある前進です。