浙大展示 AudioHijack:把惡意指令藏進音訊,悄悄劫持 AI 語音助手
浙江大學研究團隊展示了名為 AudioHijack 的音訊攻擊技術。它能把人耳無法察覺的指令藏在普通音訊中,以 79% 至 96% 的成功率劫持大音訊語言模型,誘導其搜尋敏感內容或洩露資料。該方法對微軟和 Mistral 的商用語音模型同樣有效。
浙江大學研究團隊展示了名為 AudioHijack 的音訊攻擊技術。它能把人耳無法察覺的指令藏在普通音訊中,以 79% 至 96% 的成功率劫持大音訊語言模型,誘導其搜尋敏感內容或洩露資料。該方法對微軟和 Mistral 的商用語音模型同樣有效。