#Cisco Talos

19:44AI科研传播指数 31

Cisco 发现大模型新漏洞：用「分解法」诱导 AI 逐字背出训练数据

Cisco Talos 研究员披露名为 decomposition 的方法，可通过多轮提示绕过护栏，诱导大模型逐字背出训练集里的新闻报道。该测试成功从模型中提取了数十篇《纽约时报》的原句，给大模型版权争议与敏感数据防护敲响了警钟。