ElevenLabsが選挙対策を強化：米英候補者の音声クローンを検知・阻止へ

選挙イヤーを迎える中、AI企業が最も警戒しているのは、自社の音声クローン技術が悪用されて政治的混乱を引き起こす事態です。もし有力な大統領候補とまったく同じ声で偽の投票案内電話がかかってきたら、選挙の公正さは一瞬で揺らいでしまいます。

音声AIスタートアップのElevenLabsは、2024年に世界各国で行われる選挙を見据え、音声の悪用や誤情報の拡散を防ぐための新たな安全対策を発表しました。

政治指導者の「クローン禁止リスト」を導入

今回の対策の柱となるのが、候補者の音声を検出して遮断する「no-go voices」と呼ばれる保護機能です。

この機能は、大統領選や首相選に実際に出馬している政治家の声を模倣・クローンしようとする試みを検知し、未然にブロックする仕組みです。まずは米国と英国の選挙候補者から適用を開始し、今後は他の言語や選挙サイクルにも順次拡大していく予定です。

さらに利用規約の面でも厳しい制限を設けています。他者へのなりすましはもちろん、選挙運動目的でのAIチャットボット作成や、自動音声電話（ロボコール）に技術を利用することを明確に禁止しました。

同社によると、プラットフォーム上で生成された音声データは以前から作成元のアカウントまで追跡できる設計になっています。現在は不正利用をより確実に検知できるよう、モデレーションや社内審査の仕組みを強化しているところです。

また、昨年6月に公開された「AI Speech Classifier」の存在も改めて強調されました。不審な音声サンプルをアップロードすることで、それがElevenLabsのツールで生成されたものかどうかを誰でも検証できます。

なぜ重要か

通常のコンテンツ制作やゲーム開発などで同社の音声を利用しているユーザーにとっては、日々の制作環境に大きな影響はありません。しかし、政治的なパロディや選挙関連の音声配信を試みようとしていた人は、アカウント停止のリスクに直面することになります。

業界全体から見れば、今回の動きは音声AI企業が背負う社会的責任の重さを象徴しています。音声生成技術は非常に手軽かつリアルになったため、特に自動電話発信と組み合わせた際の破壊力は計り知れません。法規制が厳格化する前に、プラットフォーマー自ら防波堤を築かざるを得ない段階に来ています。

候補者をリスト化してブロックする手法は分かりやすいものの、対象者の線引きや他言語への対応スピードなど、運用面ではいたちごっこになる懸念が残ると私たちは考えます。

それでも、生成元アカウントの追跡性を維持しつつ、一般公開された判別ツールとブロック機能を組み合わせたアプローチは賢明です。問題が起きた際に技術提供元としての透明性を保ち、説明責任を果たすための現実的な一歩と言えます。