Anthropic 新研究:只需 250 篇惡意文件,就能給百億模型下毒
Anthropic 聯合英國 AI 安全研究所等釋出最新研究,推翻了模型越大越難下毒的常識。實驗表明,投毒效果取決於惡意文件的絕對數量而非比例,僅混入 250 篇文件就能給 13B 模型成功植入後門。這意味著預訓練階段的安全防範門檻比預想中更棘手。
Anthropic 聯合英國 AI 安全研究所等釋出最新研究,推翻了模型越大越難下毒的常識。實驗表明,投毒效果取決於惡意文件的絕對數量而非比例,僅混入 250 篇文件就能給 13B 模型成功植入後門。這意味著預訓練階段的安全防範門檻比預想中更棘手。
圖靈研究所釋出調查顯示,英國 55% 的家庭正在使用生成式 AI,近四分之一 8 至 12 歲兒童已接觸過該技術,最常用的工具是 ChatGPT。孩子們主要用它激發創意、查閱資訊或娛樂,而有特殊學習需求的兒童使用率顯著更高。