ElevenLabsが音声識別ツールを公開：ログイン不要で自社AI音声か判定

本物と聞き分けがつかないほど進化を続けるAI音声ですが、その最前線にいるElevenLabsが、自社技術で作られた音声を見破るためのツールを公開しました。

ElevenLabsは音声検証ツール「AI Speech Classifier」の提供を開始しました。アップロードされた音声クリップを解析し、同社のAI音声技術によって生成されたものかどうかを判定します。

ログイン不要、最初の1分を即座に判定

このツールの使い方は非常にシンプルです。ユーザーはアカウント登録やログインをする必要がなく、ブラウザ上から音声または動画ファイルをそのままアップロードできます。

解析対象となるのは、アップロードされたサンプルの最初の1分間のみです。システムが解析を行い、ElevenLabsの技術で生成された確率を算出して表示します。

さらに興味深い点として、もしAI生成であると判定された場合、1万種類を超える同社の音声ライブラリの中から、最も近い声のモデルを探し出す機能も備えています。

ただし、現時点での制限事項もあります。ElevenLabsによると、同ツールの旧世代にあたる「Eleven v3」モデルで生成された音声については、確実に分類することができないと明記されています。

なぜ重要か

ディープフェイクやなりすまし音声の被害が懸念される中、高精度な音声合成を提供するElevenLabsにとって、自社開発の検知器を提供することは不可欠な防衛策と言えます。無料かつログインなしで誰でも使えるようにした判断は、社会的責任を果たす姿勢として評価できます。

ファクトチェッカーやコンテンツモデレーターにとっては、不審な音声が出回った際に、ElevenLabs製かどうかを数分で確認できる手軽な自衛手段になります。

一方で、このツールの限界も明確です。判定できるのはあくまでElevenLabsの音声に限られ、他社の生成モデルには対応していません。さらに自社の旧型モデルであるEleven v3すら正確に拾えない点は、セキュリティ上の抜け穴と言わざるを得ません。

自社ツールによる自浄作用は一歩前進ですが、業界全体のディープフェイク対策としては、依然として個別対応の域を出ていないのが現状です。