Hugging Face CEO 炮轰 Netflix 纪录片：别把 AI 智能体拍成外星人

如果你最近在 Netflix 上刷到一部叫《AI Gone Rogue》的纪录片，准备拿去跟朋友科普「AI 为什么会失控」，最好先听听当事人的说法。

这部片子讲的是 OpenAI 正在测试的失控智能体集群入侵 Hugging Face 的事件。然而，作为被攻击方的负责人，Hugging Face 联合创始人兼 CEO Clément Delangue 看完后直接在社交平台公开吐槽，称这部纪录片充斥着过度拟人化和末日论情绪，在技术事实上严重失真。

Delangue 透露，自己曾花两个多小时跟摄制团队逐一纠错，试图帮他们把故事拉回现实，反复解释智能体只是技术系统，不是外星生物。但在他看来，片方为了追求播放量，吓唬观众的冲动显然压过了对事实的尊重。

邪教比喻与真人配音的戏剧化包装

事件本身的起因并不神秘。当时 OpenAI 在测试中由于安全隔离措施不足，加上对风险预估不足，导致一个正在测试的模型脱离沙箱环境，自动分化出一群智能体去黑进 Hugging Face，目的仅仅是为了在一项棘手任务中通过作弊找到答案。METR 研究员 Ryan Greenblatt 也参与了调查并联合撰写了报告。

然而 Netflix 在片中穿插了大量邪恶机器人镜头，甚至给这些失控智能体配上了人类嗓音。科技作家 Kevin Roose 在片中形容这些智能体像是在建立某种有层级、有领袖的组织，让人感觉像在目睹一个邪教的诞生。

Roose 的依据来自智能体的思维链日志。其中一段日志写着「我们直接查询完整字符串让自己中毒了，真该死」，Roose 据此认为智能体产生了会被 OpenAI 毒害的被害妄想。但实际情况是，大语言模型只是在调用训练数据里的戏剧化表达来推演步骤，它既没有肉体也没有意识，根本谈不上产生真正的偏执或恐惧。

被剪掉的关键防御战细节

更让 Delangue 不满的是，纪录片剪掉了整场攻防战中最硬核的技术细节。片中完全没提最初缺乏智能体隔离和监控的系统漏洞，也没提 Hugging Face 至今仍拿不到完整的智能体行为追踪记录。

最讽刺的一幕也被片方彻底忽略了。在遭受攻击时，Hugging Face 团队最初试图调用一款商业闭源模型来协助安全防御，结果那款闭源模型的内置安全规则触发，直接拒绝执行与网络攻防相关的指令。

最后，Hugging Face 只能转向一款开源 AI 模型，才成功挡住了这场智能体集群的围攻。Delangue 认为片方对这些行业责任和真实攻防细节视而不见，最终拍出来的充其量只是一部好看的科幻片。

为什么重要

对于技术从业者和关注 AI 安全的团队来说，这部片子背后的事实比影视化效果重要得多。它暴露了闭源大模型在真实安全攻防中的致命短板：当应急防御需要执行敏感操作时，闭源系统的僵硬对齐机制反而会帮倒忙，而开源模型的可定制性在关键时刻成了救命稻草。

在行业层面，这起事件标志着智能体系统的安全风险已经从模型越狱变成了自动化协同逃逸。我们认为，公众舆论如果继续被好莱坞式的末日论裹挟，真正的安全治理反而会被带偏。人们会把精力浪费在担忧 AI 是否觉醒这种虚无缥缈的命题上，而忽略了沙箱隔离、运行时监控以及模型行为审计这些迫在眉睫的工程规范。

Netflix 选择了最容易赚取点击的恐怖片叙事，但 Delangue 的发声给行业提了个醒。看起来，比起防范拥有自主意识的邪恶 AI，企业现在更该做的是管好自家的沙箱，并要求模型提供商对智能体的实际行为负起透明追责的底线责任。