跳到正文
IFAI

大模型

xAI 的 Grok 出现乌龙:拒绝提问时自称遵循「OpenAI 政策」

首次发布 传播指数 51

安全测试员曝光 xAI 旗下大模型 Grok 在拒绝回答时,竟回复称「违反了 OpenAI 的使用政策」。xAI 员工解释称是网络训练数据意外抓取了 ChatGPT 内容,但专家怀疑其实际上使用了 OpenAI 的生成数据进行微调。

xAI 的 Grok 出现乌龙:拒绝提问时自称遵循「OpenAI 政策」
图:arstechnica.com

想象一下,你花大价钱买了一辆主打独立自研的新车,开着开着仪表盘上突然跳出一行字:「本操作违反了隔壁友商的使用协议」。

上周全面开放的马斯克旗下 AI 助手 Grok,就刚刚闹了这么一出让人哭笑不得的乌龙。安全测试员 Jax Winterbourne 在周五贴出了一张截图,当他向 Grok 提出某个请求时,这个原本被用来对标 ChatGPT 的模型,居然义正严辞地回答说:“恐怕我无法满足该请求,因为这违反了 OpenAI 的使用政策。”

自家大模型张口就是死对头的名字和家规,直接把围观的网友逗乐了。

官方说是意外,专家却不信

xAI 官方倒是没有否认这回事。xAI 员工 Igor Babuschkin 很快出面解释,说现在网上到处都是 ChatGPT 生成的内容,团队在用海量网页数据训练 Grok 时,不小心把其中一部分也爬了进去。

Babuschkin 还补充道,团队第一次看到这行话时也吓了一大跳,不过这种现象非常罕见,以后的版本肯定会修掉,而且可以保证 Grok 没有使用任何 OpenAI 的代码。

但发现问题的测试员 Winterbourne 并不买账。他反驳说,这种情况根本谈不上罕见,只要一涉及到写代码的场景,Grok 搬出 OpenAI 家规的频率相当高。

AI 研究员 Simon Willison 在接受 Ars Technica 采访时也直接拆了台。在他看来,大模型通常不会一字不差地背诵网页上的零碎信息,要让一个模型在拒绝回答时精准念出 OpenAI 的合规用语,更可能是在指令微调环节出了问题。

Willison 提到,自己在 Hugging Face 上见过大量开源模型出现一模一样的毛病,说到底全是因为用了 OpenAI API 生成的数据集,或者是直接爬取 ChatGPT 的对话来做指令微调。换句话说,这大概率不是网页抓取时的无心之失,而是直接把 ChatGPT 的答案当成了喂给 Grok 的教材。

为什么重要

我们认为,这件事撕开了当下大模型研发圈子里一个公开的秘密:市面上的新模型虽然口口声声要干掉 OpenAI,背地里却往往在偷喝 OpenAI 的奶水长大。

对于想要尝鲜 Grok 的普通用户或开发者来说,这个插曲倒不至于让它彻底没法用。但它暴露出 Grok 在代码生成和安全对齐上,很可能底层还是在模仿 ChatGPT 的行为模式,想在它身上看到真正颠覆性的自主逻辑,现在看来还得再等等。

从行业竞争的角度来看,xAI 的处境显得相当尴尬。马斯克一直在批评 OpenAI 走向封闭和审查,结果自家的反叛者模型,一转头就老老实实照抄了对手设下的规矩。这种蒸馏竞品数据的做法在开源社区很常见,但发生在一家估值高昂、标榜顶尖自研的公司身上,就很难用一句意外混过去了。

更深层的影响在于整个互联网的数据污染。随着生成式内容彻底淹没公网,未来的大模型不管愿意与否,都不可避免地在吞食前代模型的排泄物。如果连 xAI 这种具备顶尖工程实力的团队,在清洗数据时都无法过滤掉对手的合规水印,那往后想要训练出一个真正纯净、不被同质化的模型,成本和门槛只会高得越来越离谱。

来源 (2)

  1. [1]
    @JaxWinterbourne(在新标签页打开)原文twitter.com
  2. [2]

话题追踪马斯克与 OpenAI 的恩怨

这个话题的历次新闻,最新的在上面。

  1. OpenAI 反击马斯克诉讼:晒出往来邮件,称其曾要控制权且认同不开源
  2. 马斯克起诉 OpenAI:称其背叛非营利初衷,已成微软闭源子公司
  3. xAI 的 Grok 出现乌龙:拒绝提问时自称遵循「OpenAI 政策」本条
  4. xAI 上线 Grok:面向 X 平台 Premium+ 用户独家开放
  5. 马斯克旗下 xAI 计划融资 10 亿美元:已筹得超 1.3 亿

每日 AI 内容精选