OpenAI 谈 ChatGPT 行为准则：拟开放个性化定制并引入公众监督

如果你的 AI 助手突然在政治话题上和你抬杠，或者该回答的时候一本正经地拒绝，你肯定会怀疑是背后的工程师在搞鬼。

面对满天飞的偏见争议，OpenAI 专门发文挑明了底层逻辑：AI 展现出的偏见是 bug 而不是故意设计的 feature。他们同时公布了接下来如何管束 ChatGPT 的行动方案。

训 AI 像训狗，规矩每周都在改

OpenAI 解释说，训练大模型并不像传统软件那样写死逻辑，过程其实更像训狗。

第一阶段是预训练，模型吞下海量网页文本，学会了语法、常识和推理，但同时也把互联网上的各种偏见囫囵吞枣地学了进去。

第二阶段是微调，人类审核员登场。审核员根据 OpenAI 提供的准则给模型的各种回答打分，模型据此学习人类的偏好。

OpenAI 透露，他们和审核员保持着每周沟通的机制，随时解答疑惑、微调指引，并明确要求审核员在争议问题上保持中立，不得偏袒任何政治派别。

为了洗清偏袒嫌疑，他们不仅公开了部分关于争议话题的审核准则，还打算在保护隐私的前提下公布审核团队的人口统计学构成，甚至在跟进 Constitutional AI 和基于规则的奖励机制。

既不想当真理部，又怕 AI 被玩坏

承认缺陷之后，OpenAI 给出了三个解决步骤。

首先是修补出厂设置。官方承认现在的 ChatGPT 经常该拒绝的时候瞎聊、不该拒绝的时候过度防卫，而且还会胡说八道捏造事实。

其次是允许个性化定制。OpenAI 正在开发升级版本，允许用户自己设定 AI 的行为方式，即使输出的内容其他人甚至 OpenAI 官方都不赞同也没关系。

不过官方也留了后手，强调定制必须有社会公认的边界，否则 AI 要么变成作恶工具，要么变成无脑迎合用户偏见的马屁精。

最后是把定边界的权力交出去。他们表示不想关起门来垄断权力，接下来会通过外部红队测试、第三方审计，以及向公众和教育界广泛征求意见，来决定 AI 的底线到底划在哪里。

为什么重要

我们认为，OpenAI 这次表态最聪明的地方，在于主动卸下了当道德裁判的包袱。

此前科技大厂最容易陷入的陷阱，就是试图用一套统一的价值准则去管全球用户的嘴。这既吃力不讨好，又必然招致偏袒特定立场的抨击。

把行为准则拆解成底层硬边界和上层用户自定义，看起来是目前最务实的解法。对普通用户来说，这意味着以后的 ChatGPT 会更顺手，至少不会随便给你上一堂莫名其妙的说教课，创作者也能按自己的风格调教模型。

但这里的隐患同样显而易见。如果把定义价值的旋钮交给大众投票，往往意味着拉锯和妥协；而把定制权下放给个人，怎么界定有害言论与个人表达的边界，依然是个没人能彻底讲清的雷区。