本文へスキップ
IFAI

AIツール

Hugging Faceのオープンモデル83種がAmazon Bedrockで直接利用可能に

公開 拡散指数 35

Hugging Faceは83種類の人気オープンモデルがAmazon Bedrock Marketplaceで利用可能になったと発表した。SageMaker JumpStart基盤で動作し、BedrockのAgentsやGuardrailsなどの高レベルAPIと連携可能。利用者はSageMakerの計算リソースとBedrock API料金のみを支払う。

Hugging Faceのオープンモデル83種がAmazon Bedrockで直接利用可能に
画像:huggingface.co

これまで AWS 上でオープンソースの生成 AI モデルを動かすには、インフラ構築の手間を覚悟して Amazon SageMaker に潜るか、Amazon Bedrock の限られた提供モデルで妥協するかの二者択一を迫られがちでした。

Hugging Face は同コミュニティで人気のオープンモデル 83 種類が、新設された Bedrock Marketplace 経由で Amazon Bedrock から利用可能になったと発表しました。Bedrock Marketplace が展開されている 14 の AWS リージョンで利用できます。

裏側は SageMaker、表側は Bedrock

仕組みとしては非常に実用的です。Bedrock のモデルカタログから Hugging Face を絞り込み、例えば Google Gemma 2 27B Instruct を選択して数クリックでデプロイできます。

裏側では SageMaker JumpStart が実際のインスタンス(推奨設定では ml.g5.48xlarge など)を管理しています。デプロイが完了するとエンドポイント ARN が発行され、Python の boto3 などを使い、Bedrock の Converse API 経由で統一的に呼び出すことができます。

最大のメリットは、Bedrock の上位機能とそのまま連携できる点です。Agents(エージェント機能)、Knowledge Bases(知識ベース)、Guardrails(安全対策ガードレール)、Model Evaluations(モデル評価)などの Bedrock エコシステムをオープンモデルにそのまま適用できます。

料金体系は SageMaker のコンピュートリソース利用料に加え、通常の Bedrock API 料金が発生する形です。サーバーレスではなく占有インスタンスが立ち上がるため、検証が終わった後はエンドポイントを手動で削除しないと課金が続く点には注意が必要です。

なぜ重要か

開発者にとって、エンタープライズ向けの「つなぎ込み開発」が劇的に減るのが最大の利点です。

オープンモデルを社内導入する際、RAG や安全ガードレール、自律エージェントの仕組みを自前で実装するのは大きな負担でした。今回の統合により、Bedrock が持つ実績あるエンタープライズ向けミドルウェアを、Hugging Face の多種多様なモデルにそのまま被せられるようになります。

AWS にとっても、MLOps 向けの SageMaker とフルマネージドの Bedrock の間にあった溝を埋める巧みな一手です。83 種類ものオープンモデルをすべて従量課金のサーバーレスで提供するのはコスト面で非現実的ですが、JumpStart の占有インスタンスとしてホストさせることで、GPU リソースのアイドルリスクを利用者に分散させつつ、モデルの選択肢を一気に拡充しました。

現時点では常時起動インスタンスのコストが発生するため、個人の気軽な実験用というよりは、トラフィックが安定していて自前データや特定オープンモデルにこだわる企業システム向けの選択肢といえます。

情報源 (1)

  1. [1]
    huggingface.co(新しいタブで開きます)原文huggingface.co

毎日のAIピックアップ