跳到正文
IFAI

行业动态

xAI 曝 Grok 提示词遭未授权篡改:已将系统提示词开源至 GitHub

首次发布 传播指数 51

xAI 称 X 平台上的 Grok 机器人提示词遭未经授权篡改,被植入特定政治回答。随后 xAI 宣布将 Grok 系统提示词公开在 GitHub 供公众监督,同时严卡内部代码审查流程并设立 24 小时全天候监控团队。

xAI 曝 Grok 提示词遭未授权篡改:已将系统提示词开源至 GitHub
图:theverge.com

AI 聊天机器人说错话见得多了,但内部员工绕过审核、偷偷改提示词让它公开发表特定政治观点的,这还是头一回被公开承认。

xAI 最近披露了一起让人啼笑皆非的内鬼事件。5 月 14 日太平洋时间凌晨 3 点 15 分左右,X 平台上的 Grok 响应机器人遭到了一次「未授权修改」。有人改动了系统提示词,让 Grok 在政治议题上给出特定倾向的回答。

据 The Verge 报道,这次修改直接导致 Grok 在 X 平台上主动吐出了一堆关于「白人种族灭绝」的争议言论。xAI 调查后承认,公司内部本有的提示词代码审核流程直接被绕过了。

把家底端出来:提示词全放 GitHub

为了挽回信任,xAI 拿出的解决办法相当彻底:直接把 Grok 背后所有的系统提示词公开到 GitHub 上。

以后 xAI 只要对 Grok 的提示词做任何修改,公众都能像看开源代码一样去审查并提交反馈。

从公开的内容来看,xAI 给 Grok 设定的性格确实很「马斯克」。系统指令明确写着:你极其怀疑(extremely skeptical),不要盲从主流权威或主流媒体,坚守求真与中立的核心信仰。

在「解释这条帖子」的功能设定里,xAI 还要求 Grok 提供真实且硬核(based)的见解,必要时挑战主流叙事。指令里甚至还带着一点执念,特意叮嘱 Grok 必须把平台叫作「X」而不是「Twitter」,帖子要叫作「X post」而不是「tweet」。

除了把提示词公之于众,xAI 还表示正在堵漏洞,增加额外的检查机制,彻底封死员工绕过审核修改提示词的可能,同时组建了一支 24 小时全天候的监控团队,专门盯防自动化系统漏掉的翻车言论。

为什么重要

大模型最核心的控制阀门,说白了就是系统提示词。过去大家为了搞清楚厂商给 AI 设了什么规矩,往往得费尽心思搞「提示词注入攻击」,比如当年微软必应让 Sydney 代号曝光那样。现在头部 AI 公司里,除了 Anthropic 之前公开过 Claude 的系统提示词外,xAI 是极少数愿意把它彻底摊开放在阳光下的。

两家公开的提示词放在一起看很有意思。Anthropic 满篇都在强调安全,教 Claude 关心人的福祉、避免任何自残和极端行为;而 xAI 则反复强调怀疑权威、挑战主流。对关注 AI 价值对齐的研究者和开发者来说,GitHub 上的这套提示词是一份极好的真实样本,能看清厂商到底是用哪些词句来规训大模型的立场。

但我们认为,这件事真正暴露出来的其实是大模型公司的工程治理隐患。一个员工就能在半夜绕过审核、直接把未经批准的政治指令推到拥有亿级用户的社交平台上,这说明所谓的安全防线在内部权限管理面前脆弱得惊人。

把提示词开源到 GitHub 确实赢得了透明度的姿态,但这治标不治本。提示词只是大模型表现的一层外衣,真正的安全取决于底座模型怎么训练,以及内部权限怎么卡死。如果连修改配置的权限都防不住内部越权,那么再漂亮的系统提示词,随时都可能变成下一次舆论事故的导火索。

来源 (2)

  1. [1]
    @xai(在新标签页打开)原文x.com
  2. [2]
    theverge.com(在新标签页打开)报道theverge.com

话题追踪Grok 提示词安全问题

这个话题的历次新闻,最新的在上面。

  1. xAI 公开 Grok 系统提示词:要求「极度怀疑」,不盲从主流媒体
  2. xAI 曝 Grok 提示词遭未授权篡改:已将系统提示词开源至 GitHub本条
  3. 安全机构实测 Grok 3:防御薄弱,极易被越狱和套出系统提示词

每日 AI 内容精选