#Llama 3 70B

16:30AIモデル拡散指数 66

Meta、オープンLLM「Llama 3」を公開　8Bと70Bの2サイズ、15兆トークンで学習

Metaは次世代オープンLLM「Llama 3」を公開した。8Bと70Bの2サイズでベースおよび指示調整モデルを提供し、15兆以上のトークンで学習されている。8B版は民生用GPUでも動作や微調整が可能。オープンソースAIの新たな基準となる一方、現時点のコンテキスト長は8kトークンにとどまる。