Motion 3-to-4:単眼動画を4D動的オブジェクトに変換、動作の移植にも対応
単眼動画から高品質な 4D 動的オブジェクトを合成するオープンソースモデル「Motion 3-to-4」が公開された。静的 3D 形状と動作再構成を分離してフレームごとの頂点軌道を予測し、抽出したキャラクター動作を別動画へ移植できる。
Llama、Qwen、DeepSeekなどオープンソース・オープンウェイトのモデルと、注目のデータセット、フレームワーク、開発ツール。
単眼動画から高品質な 4D 動的オブジェクトを合成するオープンソースモデル「Motion 3-to-4」が公開された。静的 3D 形状と動作再構成を分離してフレームごとの頂点軌道を予測し、抽出したキャラクター動作を別動画へ移植できる。
Overworldはキーボードやマウスでリアルタイムに操作できる動画生成世界モデル「Waypoint-1」をオープンソース公開しました。1万時間のゲーム映像で学習され、RTX 5090上で最大60FPSの低遅延生成を実現しています。画質や一貫性に課題は残るものの、2.3Bの小型モデルがローカル向けに提供されています。
LightOn はエンドツーエンドの視覚言語 OCR モデル「LightOnOCR-2-1B」をオープンソース公開しました。1B という小型サイズながら、OlmOCR-Bench で 9B の Chandra-9B を上回り、DeepSeekOCR の 1.73 倍高速に動作します。Apache 2.0 ライセンスで、1600 万ページの訓練データも提供されます。
Metaが画像シーケンスからシーンを3D復元するオープンソース技術「ShapeR」を公開しました。空間全体を1つの塊として出力する従来手法と異なり、SLAM点群とマルチモーダルデータを組み合わせ、各物体を実寸大かつ独立した3Dメッシュとして生成します。シーン内の物体を個別に移動・編集できるようになります。
FlashLabsは、エンドツーエンドのリアルタイム音声対話モデル「Chroma 1.0」をApache-2.0ライセンスでオープンソース公開しました。テキストを介さず音声を直接理解して合成音声を生成でき、参照音声を用いた声色クローンにも対応します。Qwen2.5-OmniとLlama 3をベースにしており、現在は英語に対応しています。
任意の人数のキャラクターを自然に動かせるアニメーションモデル「CoDance」が公開された。ポーズと位置の固定的な結びつきを解き、テキストとマスクで再マッピングすることで、位置ズレや多様な画風に対応する。現在コードと重みが無償提供されている。
Google は Gemma 3 ベースのオープン翻訳モデル「TranslateGemma」を発表しました。4B、12B、27B の 3 サイズ展開で 55 言語に対応。12B モデルが従来の 27B ベースラインを上回る精度を出し、画像内のテキスト翻訳機能もそのまま引き継いでいます。
オープンソースの音楽生成基盤モデル「HeartMuLa」が公開された。曲調のプロンプトと歌詞を入力するだけで、ボーカルと伴奏を含む完全な楽曲を生成できる。現在 3B バージョン(重み約 16GB)が配布中で、多言語に対応し、Suno など商用トップ層に迫る音質と一貫性を実現している。
Black Forest Labsは画像生成モデル「FLUX.2 klein」を発表した。13GB VRAMの一般向けGPUで1秒未満の画像生成・編集が可能。Apache 2.0ライセンスの4B版と重み公開の9B版を用意し、APIや無料デモアプリも提供する。
Black Forest Labsは、1秒未満での推論を可能にする高速画像生成モデル「FLUX.2 [klein]」を発表した。競合モデルより30%以上高速化し、9Bと4Bのバリアントを用意。特に4B版はApache 2.0ライセンスでオープンソース化され、8.4GBのVRAMでローカル動作する。
NVIDIAは全二重音声対話モデル「PersonaPlex」を発表した。聞き取りと発話を同時に行い、自然な割り込みや相づちを低遅延で実現する。テキストの役割指定と短い参照音声を与えるだけで、任意の声質とキャラクターを忠実に保ったまま対話できるのが大きな強みだ。
KyutaiがCPU向け軽量音声合成モデル「Pocket TTS」をオープンソース公開。1億パラメータの省サイズ設計でGPUを必要とせず、MacBook Air M4の2コアで約6倍速のリアルタイム生成と200msの低遅延を実現。音声クローンや長文朗読にも対応する。
開発者の yatharthsharma3501 氏が超軽量な音声アップサンプリングモデル「NovaSR」をオープンソース公開した。サイズは約 52KB で、10 層未満の畳み込み層により単一 A100 上で実時間の 3600 倍速を達成。16kHz の音声を 48kHz の高音質に変換でき、エッジ機器やリアルタイム処理に向く。
ShowLabは画面録画から操作手順を学習するPC操作エージェント「ShowUI-Aloha」をMITライセンスで公開した。航空券予約やExcel編集を一度実演するだけで手順を抽象化して再実行でき、OSWorldベンチマークで60.1%の成功率を記録した。
軽量な画像編集モデル「VIBE」が公開された。2BのQwen3-VLと1.6BのSana 1.5を組み合わせ、H100上で2K解像度の画像編集を約4秒でこなす。蒸留版では2秒未満まで高速化され、元画像のディテールを崩さずに低コストで編集できる点が注目されている。
UniSHが、動画から3Dシーンと人物の姿勢・形状を同時に復元するフィードフォワード型フレームワークを公開しました。手ブレや激しい動きを含む映像からでも、シーン点群、カメラ軌跡、人体メッシュを一度の推论で出力できます。GitHubでコードが公開されており、ローカル環境で実行可能です。
テンセントはテキストから3Dキャラクターアニメーションを生成する10億パラメータ超のモデル「HY-Motion 1.0」をオープンソースで公開した。DiT構造を採用し、200種以上の動作カテゴリーに対応。生成された3Dデータはそのまま既存の制作パイプラインに組み込める。
falはオープンウェイト画像モデル「FLUX.2 [dev] Turbo」を公開した。DMD2蒸留技術により推論ステップを50から8へと大幅削減し、1024x1024画像を6.6秒、1枚約0.008ドルで生成できる。重みはHugging Faceで提供されるが、商用利用にはfalの公式APIが必要となる。
Liquid AIは実験的モデル「LFM2-2.6B-Exp」を公開した。純粋な強化学習で構築され、指示追従、知識、数学のベンチマークで他の3Bモデルを上回る。IFBenchスコアでは263倍巨大なDeepSeek R1-0528を凌駕したという。モデルはHugging Faceで配布されている。
アリババのQwenチームは画像分解モデル「Qwen-Image-Layered」をオープンソース公開した。プロンプト指定で画像を3〜10枚の独立したRGBAレイヤーに分解でき、レイヤー内の再分解も可能。面倒な切り抜き作業なしに、Photoshopで直接レイヤー編集できるようになる。