スタンフォード大がTokasaurus公開:高スループット特化でvLLMを最大3倍凌駕
スタンフォード大学の研究チームが高スループット処理に特化した推論エンジン「Tokasaurus」をオープンソースで公開した。CPU負荷の削減や共有プレフィックスの動的活用、非NVLink環境での並列化最適化により、vLLMやSGLangと比べ最大3倍以上のスループットを達成している。
スタンフォード大学の研究チームが高スループット処理に特化した推論エンジン「Tokasaurus」をオープンソースで公開した。CPU負荷の削減や共有プレフィックスの動的活用、非NVLink環境での並列化最適化により、vLLMやSGLangと比べ最大3倍以上のスループットを達成している。
Tencent Hunyuan と Tencent Music は写真と音声から自然な発話・歌唱動画を生成する「HunyuanVideo-Avatar」を発表し、単体キャラクターモードをオープンソース化した。感情やシーンを自動で捉え、最長 14 秒の動画を生成できる。複数キャラクター対応モードも近く公開される予定だ。
WordPress はエコシステム全体の AI 開発を統括する専門チームの新設を発表した。Automattic や Google の有志が参画し、コア更新を待たずに検証を進める「プラグイン優先」方式を採用。オープンな標準策定とエコシステムの分断防止を図る。
MistralはAll Hands AIと共同開発したコーディング特化型AIモデル「Devstral」を発表した。パラメータ数は24B、Apache 2.0ライセンスで商用利用が可能。RTX 4090や32GBメモリのMacでローカル実行でき、SWE-Bench VerifiedでGemma 3 27BやDeepSeekのV3を上回った。
Stability AIは単一のオブジェクト動画から動的4Dアセットと新規視点を生成できる「Stable Video 4D 2.0」を公開した。複数カメラや参照画像が不要になり、商用利用可能なライセンスでHugging FaceとGitHubにて提供される。
Googleはモバイル向けオープンモデル「Gemma 3n」のプレビュー版を発表した。DeepMindのPLE技術により、5B/8Bモデルのメモリ使用量を2GB/3GBに抑制。音声や映像を端末内で直接処理でき、次世代Gemini Nanoの基盤にもなる。
Stability AIはArmと提携し、3億4100万パラメータの音声生成モデル「Stable Audio Open Small」をオープンソース公開した。Arm CPU向けに最適化され、スマホ上で11秒の音声を8秒未満で生成できる。商用利用も可能で、効果音制作を端末側で完結できる。
Lightricksは130億パラメータのオープンソース動画生成モデル「LTX Video-13B」を公開した。段階的に描画するマルチスケールレンダリングにより、同規模モデルと比べ最大30倍高速に高解像度動画を生成。量子化により一般的なグラフィックボードでも動作し、年間売上1000万ドル未満なら無料商用利用できる。
Nvidiaは音声認識モデル「Parakeet-TDT-0.6B-v2」をHugging Faceでオープンソース公開した。6億パラメータながらGPU上で1時間の音声をわずか1秒で文字起こしでき、オープンASRリーダーボードで首位を獲得。商用利用可能なCC-BY-4.0ライセンスで提供される。
Ai2は木曜日、10億パラメータのオープンモデル「Olmo 2 1B」を公開した。Apache 2.0の下でコードと学習データを完全公開しており、GSM8KなどのテストでGoogleやMetaの同級モデルを上回る。ノートパソコンやモバイル端末でも容易に動作する。
Microsoftはオープンウェイトの推論モデル「Phi-4-reasoning-plus」を公開しました。14Bという軽量サイズながら、AIME 2025数学テストのpass@1で70BのDeepSeek-R1蒸留版を上回る精度を記録。商用利用しやすいMITライセンスで提供され、OllamaやvLLMでも手軽に動かせます。
IntelはLLMおよびVLM向けの量子化ツール「AutoRound」を発表した。重みの丸めとクリッピング範囲を同時最適化し、INT2精度で従来比最大2.1倍の相対精度を達成。72Bモデルをわずか37分で量子化でき、GPTQやGGUF形式へのエクスポートにも対応する。
TechCrunch報道によると、OpenAIは初夏リリース予定のオープン推論モデルに「ハンドオフ」機能の搭載を検討している。ローカルで解けない複雑な処理をクラウド上の大型モデルに引き継ぐ仕組みだ。ゼロから新規訓練中で、オープン層を有料エコシステムへ導く狙いもうかがえる。
韓国のスタートアップNari Labsはオープンソースの音声合成モデル「Dia」を公開した。AI開発経験が浅い学部生2人が外部資金ゼロで開発した16億パラメータのモデルで、感情の抑揚や複数話者、笑い声や咳といった非言語音まで再現可能。実測テストでElevenLabsを上回る表現力を示し注目を集めている。
Googleは量子化認識トレーニング(QAT)を適用したオープンモデル「Gemma 3」の新版を公開した。学習時に量子化を模擬することで、int4圧縮時のパープレキシティ低下を54%抑制。高価なデータセンター向けGPUを使わずとも、RTX 3090などの民生用GPUで27Bモデルをローカル実行できる。
LTX Studioがオープンソース動画モデル「LTXV 0.9.6」を発表しました。20億パラメータ(2B)モデルに、最終出力向けの高品質版と、高速な試作や軽量デプロイに適した蒸留版の2種類を用意し、速度と安定性を向上させています。
アリババが14Bパラメータの動画生成モデル「Wan2.1-FLF2V」をオープンソース公開した。ユーザーが指定した最初と最後のフレームから滑らかな移行動画を生成し、一貫した画風と自然な動きを保つ。公式サイトで5秒・720pの動画を無料で生成できるほか、Hugging FaceやGitHubでも重みが公開されている。