本文へスキップ
IFAI

AIモデル

マイクロソフトとMetaが提携拡大:Llama 2をAzureとWindowsで提供開始

公開 拡散指数 51

マイクロソフトはMetaとの提携を拡大し、商用利用可能な大規模言語モデル「Llama 2」をAzureとWindowsでサポートすると発表した。7B、13B、70Bの各モデルをAzure上で微調整・展開できるほか、ONNX Runtimeを通じてWindows PC上でのローカル実行にも対応する。

マイクロソフトとMetaが提携拡大:Llama 2をAzureとWindowsで提供開始
画像:blogs.microsoft.com

Llama 2は、Metaが提供する最新の大規模言語モデルファミリーであり、7B、13B、70Bの3つのパラメータサイズが用意されています。前世代との決定的な違いは、商用利用が正式に認められた点です。マイクロソフトとの連携により、Azureクラウド上での即時デプロイや微調整だけでなく、Windows PC上でのローカル実行にもネイティブ対応しました。

これにより、自社プロダクトに生成AIを組み込みたい開発者は、プロプライエタリなクラウドAPIに縛られることも、煩雑なインフラ構築に悩まされることもなくなります。

何ができるのか、どう動かすのか

クラウド側では、パブリックプレビュー中の「Azure AI model catalog」にLlama 2が追加されました。インフラの依存関係を意識することなく、7B、13B、70Bの各モデルをクラウド上で直感的に探索、評価、微調整できます。

カタログ内にはDeepSpeedやONNX Runtimeといった強力な最適化技術が標準で統合されており、ファインチューニングにかかる時間を大幅に短縮できます。

安全面では、Meta独自の安全対策技術とAzure AI Content Safetyが組み合わされています。Azure AI経由で展開すると多層的な保護がデフォルトで適用され、自社データを用いたテストや、検索拡張生成(RAG)、プロンプトエンジニアリングを駆使して安全なアプリを構築できます。

データを外部に出したくない場合は、完全ローカル実行という選択肢もあります。Windows向けに最適化が施されており、ONNX Runtimeを介してDirectML実行プロバイダーをターゲットにすることで、ローカルハードウェア上でモデルを動かせます。

モデルはGitHubリポジトリから入手可能です。十分なGPUを備えたWindows環境であれば、Windows Subsystem for Linux(WSL)やVS Codeを使い、外部サーバーに頼らず手元のPC上だけでモデルの微調整から推論まで完結できます。

なぜ重要か

商用利用可能な本格的オープンモデルを探している開発者にとって、AzureとWindowsによるLlama 2のサポートはもっとも実用的な選択肢となります。クラウドでの万全なセキュリティと管理ツールを享受しつつ、いざとなれば手元のPCで機密データを安全に処理する道が残されています。

OpenAIとの提携を軸にしつつも、オープンモデル需要を逃さず自社プラットフォームに取り込むマイクロソフトの立ち回りは非常に巧みです。ただし、13Bや70Bのモデルをローカルで動かすには相応のGPUスペックが求められるため、多くのチームにとってはAzure上で検証を始めてから必要に応じてローカル化を検討するのが現実的です。

情報源 (1)

  1. [1]
    blogs.microsoft.com(新しいタブで開きます)原文blogs.microsoft.com

毎日のAIピックアップ