OpenAI 联手微软封禁 5 个黑客团伙：多用于代码查错与钓鱼

首次发布 2024年2月14日传播指数 52

OpenAI 宣布与微软合作，封禁了 5 个有国家背景的恶意网络黑客团伙账号。调查显示，这些团伙主要用大模型搜索公开资料、翻译、排查代码错误以及撰写钓鱼脚本，目前大模型在实际网络攻击中带来的提升仍然相对有限。

很多人还在担心 AI 会不会突然自己写出毁灭网络的超级病毒，但现实里，顶尖黑客早就用上 ChatGPT 了。只不过他们的用法，可能比你想的要朴实得多。

OpenAI 联合微软威胁情报团队发布了一份报告，宣布联手干掉了一批国家背景黑客的账号。这次行动直接处置了五个组织，分别来自中国、伊朗、朝鲜和俄罗斯。

国家级黑客，也在拿 AI 当实习生

这五个团伙在业内都有代号。来自中国的 Charcoal Typhoon 和 Salmon Typhoon，主要拿 OpenAI 检索网安工具与公开情报、翻译技术论文、帮忙调试代码以及排查代码错误，甚至研究怎么在系统里隐藏进程。

伊朗的 Crimson Sandstorm 和朝鲜的 Emerald Sleet，则频繁让 AI 帮忙写网页与应用脚本，或者帮他们起草用于钓鱼攻击的话术，Emerald Sleet 还顺便用它搜索亚太防务专家和已知漏洞。

俄罗斯背景的 Forest Blizzard 更直接，主要拿大模型做开源情报调研，查卫星通信协议和雷达成像技术，顺手让 AI 打杂写写脚本。

有意思的是，OpenAI 和微软调查后发现，这些黑客根本没有搞出什么毁灭性的新型 AI 攻击武器。说白了，他们只是把 GPT 当成了一个不知疲倦的初级助手，用来干找资料、写简单脚本和翻译这种脏活累活。

GPT-4 目前能帮黑客做的事情，现有的公开工具和搜索引擎基本也都能搞定，大模型带来的提升其实非常有限。

针对这批账号，OpenAI 采取了直接封号和限制访问的处理措施。他们表示，自己的安全与情报调查团队正在利用自家的模型来追踪恶意线索，分析对手是怎么和平台交互的，并以此来改进大模型的安全围栏。

与此同时，微软也公布了一套应对原则。只要监测到国家背景的黑客团伙在用自家的 AI 接口或系统，微软就会立即封禁并中断服务。

如果发现黑客在滥用其他厂商的 AI 工具，微软还会主动同步数据给同行，推动整个生态协同防御。

我们认为，这份报告最大的价值，就是给外界过度膨胀的「AI 网络武器恐慌」泼了一盆冷水。对普通用户和普通企业来说，至少现阶段不必整天担心 AI 会凭空捏造出无法防御的数字核弹，对手现在也就是拿它起草几封更有欺骗性的钓鱼邮件，或者省点写代码的时间。

对行业而言，这场猫鼠游戏意味着 AI 防守方必须把平台治理提升到国家安全级别。微软和 OpenAI 联手建立的这套「发现、封禁、通报同行」的机制，看起来正在成为大模型行业的安全底线。

但从另一个角度看，直接封号的做法治标不治本。黑客组织有充足的资源和手段，他们完全可以换套身份、套上代理继续注册，甚至直接转向没有审查限制的开源本地大模型。云端封禁只是给他们添了点麻烦，真正的攻防对抗才刚刚开始。