LeapTalk、1ステップ生成で最大200FPSのリアルタイム動画を実現
研究チームがリアルタイムなトーキングヘッド生成フレームワーク「LeapTalk」を発表した。従来の複数ステップ拡散や自己回帰モデルの課題を克服し、ブラウン橋を用いた単一ステップ蒸留により、参照画像1枚と音声から最大200 FPSの速度で顔の同一性を保った長尺動画を生成できる。
研究チームがリアルタイムなトーキングヘッド生成フレームワーク「LeapTalk」を発表した。従来の複数ステップ拡散や自己回帰モデルの課題を克服し、ブラウン橋を用いた単一ステップ蒸留により、参照画像1枚と音声から最大200 FPSの速度で顔の同一性を保った長尺動画を生成できる。