Metaとクアルコムが提携、2024年からスマホ上で「Llama 2」を直接動作へ
クアルコムとMetaはMetaのオープンソース大規模言語モデル「Llama 2」を、2024年からクアルコム製チップを搭載したスマートフォンやPC上で直接動作させる計画を発表しました。巨大なクラウドデータセンターに頼らず端末側で処理することで、運用コストを抑えつつ高速なAIアシスタントの実現を目指します。
クアルコムとMetaはMetaのオープンソース大規模言語モデル「Llama 2」を、2024年からクアルコム製チップを搭載したスマートフォンやPC上で直接動作させる計画を発表しました。巨大なクラウドデータセンターに頼らず端末側で処理することで、運用コストを抑えつつ高速なAIアシスタントの実現を目指します。
マイクロソフトはMetaとの提携を拡大し、商用利用可能な大規模言語モデル「Llama 2」をAzureとWindowsでサポートすると発表した。7B、13B、70Bの各モデルをAzure上で微調整・展開できるほか、ONNX Runtimeを通じてWindows PC上でのローカル実行にも対応する。