Mistralが「Mistral Small 4」公開:推論・マルチモーダル・コードを1つに統合
MistralはApache 2.0でオープンソース化した「Mistral Small 4」を発表した。総パラメータ119B、トークンあたり6B稼働のMoE構造で、推論・画像認識・コーディングを1つのモデルに集約。256kコンテキストに対応し、前世代と比べてレイテンシを40%削減した。
MistralはApache 2.0でオープンソース化した「Mistral Small 4」を発表した。総パラメータ119B、トークンあたり6B稼働のMoE構造で、推論・画像認識・コーディングを1つのモデルに集約。256kコンテキストに対応し、前世代と比べてレイテンシを40%削減した。