本文へスキップ
IFAI

オープンソース

NovaSR:わずか52KB、実時間の3500倍速で音質を向上させる超小型音声モデル

公開 拡散指数 48

開発者の yatharthsharma3501 氏が超軽量な音声アップサンプリングモデル「NovaSR」をオープンソース公開した。サイズは約 52KB で、10 層未満の畳み込み層により単一 A100 上で実時間の 3600 倍速を達成。16kHz の音声を 48kHz の高音質に変換でき、エッジ機器やリアルタイム処理に向く。

NovaSR:わずか52KB、実時間の3500倍速で音質を向上させる超小型音声モデル
画像:github.com

NovaSR は、ファイルサイズがわずか約 52KB という極小サイズのオープンソース音声超解像モデルだ。こもった 16kHz の音声を、クリアで明瞭な 48kHz の高音質サウンドへと瞬時に引き上げる機能を持つ。

単一の A100 GPU 環境では、実時間の 3600 倍という猛烈な処理速度を記録する。1 時間の音声ファイルであれば、わずか 1 秒程度で変換が完了し、計算コストやメモリ消費はほぼゼロに近い。

52KB で動く仕組みと驚異的な速度

数ギガバイトに及ぶ拡散モデルベースの音声修復ツールとは異なり、NovaSR の設計は極限まで無駄が削ぎ落とされている。

アーキテクチャには 10 層未満の微小な 1 次元畳み込み層(Conv1D)を採用し、BigVGAN に由来する Snake 活性化関数を組み合わせることで、極小サイズながら品質を確保した。学習データも mls_sidon と VCTK を合わせた 100 時間程度にとどまる。

公式のベンチマーク比較によると、代表的な音声超解像モデル AudioSR は約 2000MB で実時間の 0.6 倍速、FlashSR は約 1000MB で 14 倍速、FlowHigh は約 450MB で 20 倍速にとどまる。NovaSR は数千分の一のサイズでありながら、桁違いの処理速度を実現している。

使い方と割り切るべき制約

負荷が極めて軽いため、データセンター向け GPU は不要で、一般的な PC や CPU 環境でも軽快に動作する。CPU 上で動作させる場合は、設定で half=False を指定することでさらに 3 から 4 倍の高速化が可能だ。

ただし、小型化ゆえの制約もある。入力は 16kHz に限定されており、出力品質は中程度にとどまる。より高い忠実度や任意のサンプリングレートが必要な場合、開発者は後継として公開された 50MB のモデル「LavaSR」の利用を推奨している。

試すには GitHub から直接 pip で導入できるほか、Hugging Face Space 上で無料のブラウザデモが提供されている。また Kaggle には独自データで追加学習するためのノートブックも用意されている。

なぜ重要か

音声合成(TTS)を扱う開発者にとって、NovaSR は極めて実用的な選択肢になる。レイテンシを抑えるために 16kHz で出力される軽量 TTS の後ろに NovaSR を挟むだけで、追加コストをかけずに 48kHz のクリアな音声へ変換できる。

52KB というサイズであれば、スマートフォンやスマートマイク、さらにはワイヤレスイヤホンなどのエッジ端末にも容易に組み込める。通話や会議音声のリアルタイム修復に最適だ。

大規模化一辺倒の AI 開発において、NovaSR のような徹底的な軽量化アプローチは、真のリアルタイム処理とエッジ展開を可能にする賢い技術選択だと言える。

情報源 (1)

  1. [1]
    github.com(新しいタブで開きます)原文github.com

毎日のAIピックアップ