跳到正文
IFAI

行业动态

OpenAI 发布威胁报告:攻击者正混用多款 AI 打组合拳

首次发布 传播指数 39

OpenAI 发布最新威胁情报报告,复盘两年来拦截恶意滥用 AI 的经验。核心发现是,恶意行为者极少局限于单一平台或单个模型,而是将多款 AI 工具与传统网站、社媒组合进攻击链。OpenAI 希望借此推动行业跨平台联防。

OpenAI 发布威胁报告:攻击者正混用多款 AI 打组合拳
图:openai.com

想靠单一模型封杀黑产或者舆论操纵,现在看来越来越不现实了。

OpenAI 最近发布了一份新的威胁情报报告,总结了过去两年对抗恶意使用 AI 的案例。报告显示,现在的黑产团伙很少只在一棵树上吊死,他们不仅不会把自己限制在单个平台上,甚至不会只依赖某一家公司的 AI 模型。

拼积木式的 AI 攻击

根据 OpenAI 披露的细节,威胁者往往会把不同的 AI 工具和传统手段拼在一起用,比如配合独立网站和社交媒体账号协同运作。

报告中特别记录了一起针对中国影响行动的案例。在这个行动里,操作者并没有指望某一个模型包办一切,而是在工作流的不同环节,分别调用了多家不同的 AI 模型,让各自负责不同的步骤。

OpenAI 表示,公开这些情报就是为了让整个行业能更全面地摸清这些新型威胁的操作手法。

为什么重要

我们认为,这份报告戳破了一个幻想:光靠某一家巨头把自己的安全护栏做高,根本挡不住系统性的滥用。

当恶意操纵者开始把各家模型当作工作流里的可替换零件,单家公司的封禁就只能打掉链条上的一环。对手完全可以换一个审核更松的模型继续干,再把内容分发到外部社交网络上。

这也意味着,行业未来的防守线必须转向跨平台、跨模型的联防机制。如果各家 AI 公司依然各自为战,信息不对称就永远是攻击者最大的掩护。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选