浙大展示 AudioHijack:把恶意指令藏进音频,悄悄劫持 AI 语音助手
浙江大学研究团队展示了名为 AudioHijack 的音频攻击技术。它能把人耳无法察觉的指令藏在普通音频中,以 79% 至 96% 的成功率劫持大音频语言模型,诱导其搜索敏感内容或泄露数据。该方法对微软和 Mistral 的商用语音模型同样有效。
浙江大学研究团队展示了名为 AudioHijack 的音频攻击技术。它能把人耳无法察觉的指令藏在普通音频中,以 79% 至 96% 的成功率劫持大音频语言模型,诱导其搜索敏感内容或泄露数据。该方法对微软和 Mistral 的商用语音模型同样有效。