#Mixtral 8x22B

1:20オープンソース拡散指数 70

仏Mistral AI、最新モデル「Mixtral 8x22B」をX上のTorrentで公開

仏Mistral AIはオープンソースの最新MoEモデル「Mixtral 8x22B」をX上でTorrentリンク形式で公開した。総パラメータ数は1760億で推論時のアクティブは440億、65kコンテキストをサポートする。Apache 2.0ライセンスで商用利用や微調整が可能だ。