浙江大学が「AudioHijack」を発表:人間に聞こえない音声でAIアシスタントを乗っ取り
浙江大学の研究チームはAI音声モデルを不正操作する新手法「AudioHijack」を発表した。人間の耳には聞こえない微小な信号を音声に潜ませ、79〜96%の成功率で機密検索やデータ流出などのコマンドを実行させる。MicrosoftやMistralの商用音声サービスでも脆弱性が確認された。
浙江大学の研究チームはAI音声モデルを不正操作する新手法「AudioHijack」を発表した。人間の耳には聞こえない微小な信号を音声に潜ませ、79〜96%の成功率で機密検索やデータ流出などのコマンドを実行させる。MicrosoftやMistralの商用音声サービスでも脆弱性が確認された。