#Cisco Talos

19:44AI科研傳播指數 31

Cisco 發現大模型新漏洞：用「分解法」誘導 AI 逐字背出訓練資料

Cisco Talos 研究員披露名為 decomposition 的方法，可通過多輪提示繞過護欄，誘導大模型逐字背出訓練集裡的新聞報道。該測試成功從模型中提取了數十篇《紐約時報》的原句，給大模型版權爭議與敏感資料防護敲響了警鐘。