Nvidia、単一A10で動作するNemotron-Nano-9B-v2を公開：推論のON/OFF切り替えに対応
Nvidiaは、単一のA10 GPU向けに最適化された小型オープンモデル「Nemotron-Nano-9B-v2」を公開しました。MambaとTransformerのハイブリッド構造で最大6倍の高速化を実現し、開発者は/thinkなどのトークンで推論思考の有無やトークン上限を柔軟に制御できます。
Nvidiaは、単一のA10 GPU向けに最適化された小型オープンモデル「Nemotron-Nano-9B-v2」を公開しました。MambaとTransformerのハイブリッド構造で最大6倍の高速化を実現し、開発者は/thinkなどのトークンで推論思考の有無やトークン上限を柔軟に制御できます。