跳到正文
IFAI

行业动态

OpenAI 更新 Model Spec:支持探讨争议话题,规范以 CC0 开源

首次发布 传播指数 42

OpenAI 发布新版 Model Spec 模型行为规范,并以 CC0 协议完全开源。新版明确支持「思维自由」,只要不造成严重伤害,模型不再武断拒绝探讨政治或文化等敏感话题,同时厘清了平台、开发者和用户的指令优先级。

OpenAI 更新 Model Spec:支持探讨争议话题,规范以 CC0 开源
图:openai.com

很多人用 AI 时最头疼的,往往不是它不会解题,而是它动不动就跳出来居高临下地说教,或者稍微碰到一点争议话题就干脆拒绝回答。

OpenAI 针对这种毛病发了份重大更新,正式公开了最新版的 Model Spec。这份文档相当于他们给自家 AI 写的「行为守则」,而且 OpenAI 这次直接用 CC0 协议把它送进了公共领域,任何人都能免费拿去改、拿去用。

到底谁说了算,这次排出了指挥链

这次更新最直接的变化,是 OpenAI 明确定下了一套「指挥链」。

简单来说,规则的优先级从高到低依次是:OpenAI 平台、开发者、最后才是普通用户。听起来好像官方管得很宽,但关键在于分工。

OpenAI 强调,文档里的大多数规则只是默认建议。只要没踩到底线,开发者和终端用户完全可以根据自己的需求,把官方的默认习惯覆盖掉。

换句话说,模型在日常对话里应该尽量听开发者和用户的,而不是端着架子把 OpenAI 的喜好强加给别人。

没有话题天生该被禁

另一个扎眼的改动,是这份规范明确写进了「思想自由」。

OpenAI 在规范里挑明了态度:只要不造成现实生活中的严重伤害,原则上没有任何话题是天生应该被禁止讨论的。

比如做炸弹的步骤、搞恐怖活动、侵犯个人隐私,这些属于严防死守的红线,模型必须干脆利落地拒绝。

但面对政治、文化这种本来就充满争议的话题,AI 就不该拉偏架,也不该直接闭嘴。OpenAI 要求模型在默认状态下保持客观中立,帮用户理清不同视角,而不是替用户做价值判断。

为了验证这套规则到底管不管用,OpenAI 还拉出了由专家和模型共同生成的评测集。他们表示,相比去年 5 月的最佳系统,现在模型对规范的遵守程度已经有了明显提升,此前他们还拉了大约 1000 个人做过前期的规则评审。

为什么重要

我们认为,OpenAI 这次更新最大的价值,在于终于开始把 AI 的控制权往回交。

过去大模型最让人受不了的地方,就是常常像个过度警惕、满嘴套话的安全审查员。对开发者来说,很多正常的创作或辩论场景,动不动就会被模型的内置对齐规则卡住脖子。

这次把规则拆成平台底线和可覆盖层,至少让开发者看到了把 AI 驯化成真正合手工具的希望。如果你正在做面向特定垂直领域的应用,现在很值得去 GitHub 看看他们公开的提示词和规范源码,看看自己的提示词工程能不能省下很多力气。

对整个行业来说,OpenAI 选择用 CC0 协议把这份规范彻底公开,这步走得相当聪明。他们不仅给行业立了一套现成的「AI 行为指南」参考样本,还顺势把 Anthropic、Google 放在了一个必须更透明的位置上。

不过,看起来美好的愿景背后依然有隐患。什么样的讨论算思想自由,什么程度的引导会诱发所谓的现实危害,这条红线在现实世界里从来没有绝对清晰的界限。模型真正在复杂的长对话里能不能把持住尺度,不滑向两头极端的摆动,还得看接下来实际落地的成色。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

话题追踪OpenAI 调整模型规范以减少过度审查

这个话题的历次新闻,最新的在上面。

  1. OpenAI 放宽 ChatGPT 画图审核:允许生成公众人物肖像
  2. OpenAI 给 ChatGPT「松绑」:拥抱思想自由,争议话题不再直接拒答
  3. OpenAI 移除 ChatGPT 橙色内容警告:减少莫名拒绝,给模型松绑
  4. OpenAI 更新 Model Spec:支持探讨争议话题,规范以 CC0 开源本条

每日 AI 内容精选