ISTA-DASLabがDeepSeek-V4.1量子化版公開、12GB GPUで763Bモデルが動作
ISTA-DASLabが763B MoEモデル「DeepSeek-V4.1-Flash-1017」のGSQ-RCO量子化GGUFを公開しました。重みを最小1.75 bpwまで圧縮し、Strataエンジン併用で12GB VRAMの単一GPUで動作します。2.00 bpw版はベースモデルの精度を100%維持しており、巨大モデルのローカル運用の敷居を大幅に下げました。
DeepSeek-V4.1-Flash-1017
DeepSeekが「V4.1-Flash-1017」を公開：強化学習で開発支援、モデルもオープンソース化
DeepSeekはコーディング向けモデル「DeepSeek-V4.1-Flash-1017」をリリースし、オープンソースとして公開した。自己フィードバック強化学習によりゼロからのプロジェクト開発に対応し、処理速度と出力の簡潔さを向上させた。あわせて自社製Search・Fetch APIも一般開放された。
オープンソース推論エンジン「Strata」公開：12GBのVRAMで千億級モデルを動作可能に
ローカル推論エンジン「Strata」がオープンソースで公開されました。GPUメモリ、メインメモリ、SSDを連携させて階層実行することで、12GB VRAMの一般的なPCでもQwen3.8-Flash-Nextなどの巨大モデルをローカルで動かせます。OpenAI互換APIも備えており、日常的なPCでの大規模モデル運用の敷居が大きく下がりました。