#Falcon 180B

13:04オープンソース拡散指数 48

TII、1800億パラメータのオープンモデル「Falcon 180B」公開　PaLM 2匹敵

TIIはHugging Faceで1800億パラメータのオープン言語モデル「Falcon 180B」を公開した。3.5兆トークンで事前学習され、Llama 2 70Bを上回りPaLM 2-Largeに匹敵する性能を示す。商用利用には厳格な制限があり、推論にはA100が8枚必要だ。