OpenAI、15秒で声を複製する「Voice Engine」公開　悪用リスク懸念で一般公開は見送り

普段何気なく録音した15秒の音声さえあれば、AIはあなたの声やイントネーションを完璧に再現し、話したこともないセリフを語らせることができます。

OpenAIは3月29日、独自の音声生成モデル「Voice Engine」のプレビュー結果を公表しました。ただし、広く一般に公開するのではなく、技術の完成度を示しながらあえて公開を見合わせるという慎重な姿勢をとっています。

たった15秒の音源で声を再現

Voice Engineの仕様は驚くほどシンプルです。15秒の音声サンプルとテキストを入力するだけで、話し手の感情や抑揚を反映した極めて自然な音声を生成します。

実はOpenAIはこのモデルを2022年後半に開発済みでした。ChatGPTの音声会話機能や読み上げ機能、そして公式TTS APIに搭載されている既定ボイスの裏側では、すでにこの技術が使われていました。

OpenAIは昨年後半から、ごく少数の信頼できるパートナー企業に限定してプライベートテストを実施してきました。

教育企業のAge of LearningはGPT-4と組み合わせて児童向けのリアルタイム教材を作成し、動画生成ツールのHeyGenは多言語翻訳に活用しています。興味深いことに、フランス語話者の声を英語に翻訳した場合、元のフランス語訛りがそのまま保たれます。

医療分野での成果も出ています。ブラウン大学医科大学院と提携する研究所では、脳腫瘍で発話能力を失った若い患者に対し、学校の課題で昔撮影した動画の音声を使って本来の声を取り戻す試みに成功しました。意思疎通支援アプリのLivoxでも、失語症の人々に人間味のある声を提供しています。

選挙イヤーの危機感と銀行への警告

これほど完成度が高い技術をなぜ公開しないのか。理由は極めて明確で、今年は世界各地で重要な選挙が控えており、なりすましや詐欺の危険性が高すぎるためです。

OpenAIはテスト企業に対し、本人の明示的な同意取得を義務付け、一般ユーザーが自由に他人の声を複製できる仕組みの提供を禁じています。生成音声には不可視の電子透かしが埋め込まれ、AI生成であることの明示も求められます。

さらにOpenAIは、銀行などの金融機関に対して、音声認証による口座確認を段階的に廃止するよう強く呼びかけました。音声が合言葉として通用する時代は終わったという宣言に等しい対応です。

なぜ重要か

動画クリエイターや言語障害を持つ人々にとって、わずか15秒の素材で本人そっくりの声を作れる恩恵は絶大です。従来のようにスタジオに何時間も籠もる必要はなくなり、多言語展開の敷居は一気に下がります。

しかし、一般ユーザーが今すぐこのツールを触れるわけではありません。今回のOpenAIの動きは、競合スタートアップに対して技術的優位を示しつつ、安全性の配慮をアピールして社会的責任のリーダーシップを確保する意図がうかがえます。

問題は、技術の進歩そのものを閉じ込めておくことはできない点にあります。透かしの埋め込みや利用規約を気にしないオープンソースや海外勢が、いずれ同様のモデルを世に出すことは避けられません。

私たちは、今回の発表を社会に対する警鐘と捉えています。生体認証としての声はすでに信用できなくなっており、身元確認やセキュリティの仕組み全体を早急に見直す必要があります。