#Qwen2

16:00オープンソース拡散指数 52

オープンソースモデル「Qwen2」公開、5サイズ展開で文脈長は最大128K

Qwenチームは新世代オープンソースモデル「Qwen2」を公開した。0.5Bから72Bまで5つのサイズを揃え、27言語の追加データを学習。全サイズでGQAを採用し、7Bと72Bの指示チューニング版は最大128Kトークンの文脈長に対応する。72Bを除く中小モデルにはApache 2.0ライセンスが適用されている。