Anthropic 新研究:只需 250 篇恶意文档,就能给百亿模型下毒
Anthropic 联合英国 AI 安全研究所等发布最新研究,推翻了模型越大越难下毒的常识。实验表明,投毒效果取决于恶意文档的绝对数量而非比例,仅混入 250 篇文档就能给 13B 模型成功植入后门。这意味着预训练阶段的安全防范门槛比预想中更棘手。
Anthropic 联合英国 AI 安全研究所等发布最新研究,推翻了模型越大越难下毒的常识。实验表明,投毒效果取决于恶意文档的绝对数量而非比例,仅混入 250 篇文档就能给 13B 模型成功植入后门。这意味着预训练阶段的安全防范门槛比预想中更棘手。
图灵研究所发布调查显示,英国 55% 的家庭正在使用生成式 AI,近四分之一 8 至 12 岁儿童已接触过该技术,最常用的工具是 ChatGPT。孩子们主要用它激发创意、查阅信息或娱乐,而有特殊学习需求的儿童使用率显著更高。