Runway、570億引数のリアルタイム動画モデルを4台のH100で動作可能に
Runwayは対話アバター向け57B動画モデルの推論最適化手法を発表し、必要GPUをH100 8台から4台に半減させた。キャッシュ書き込み時のFP8量子化や通信カーネル融合により、1ステップ147.4msで24fpsのリアルタイム生成を維持。高負荷なリアルタイム動画の運用コスト大幅削減に道を開いた。
Runwayは対話アバター向け57B動画モデルの推論最適化手法を発表し、必要GPUをH100 8台から4台に半減させた。キャッシュ書き込み時のFP8量子化や通信カーネル融合により、1ステップ147.4msで24fpsのリアルタイム生成を維持。高負荷なリアルタイム動画の運用コスト大幅削減に道を開いた。