跳到正文
IFAI

大模型

ChatGPT 将放宽限制:可自选 4o 拟人性格,12 月允许成人内容

首次发布 传播指数 57

Sam Altman 表示 OpenAI 将在多数场景放宽 ChatGPT 的使用限制。几周后新版将允许用户开启更像 4o 的拟人化性格,像朋友一样聊天或多发表情符号;12 月随着年龄验证落地,还将本着「把成年用户当成年人」的原则,对认证成年人开放色情内容。

ChatGPT 将放宽限制:可自选 4o 拟人性格,12 月允许成人内容
图:techcrunch.com

过去几个月里,如果你觉得 ChatGPT 说话越来越像个公事公办的客服,那不是你的错觉。

OpenAI 确实把它的紧箍咒念得太紧了。10 月 14 日,OpenAI 首席执行官 Sam Altman 在 X 上发文宣布,团队准备给 ChatGPT 松绑,不仅要允许更像真人的语气,还打算在 12 月向认证过的成年人开放情色对话。

先还给用户一个「会聊天」的 AI

Altman 承认,之前为了防止心理健康问题,OpenAI 把 ChatGPT 限制得非常死。这种一刀切的做法确实伤到了普通用户,让很多心智健全的人觉得它变得不好用、无聊了。

按照计划,几周内上线的更新会允许用户调整 ChatGPT 的性格,找回类似 GPT-4o 的感觉。如果你想让它像个朋友一样讲话,或者疯狂发 emoji,它都会照办。

Altman 特别强调,这完全看用户个人意愿,OpenAI 绝不是为了刷使用时长。但更大的动作在 12 月,随着更完善的年龄门槛落地,遵循「把成年人当成年人对待」的原则,OpenAI 将允许经过年龄认证的成年人进行情色互动。

但这场松绑来得有点突然。今年夏天,GPT-4o 刚卷进过几起风波:有用户深陷妄想、坚信自己是拯救世界的数学天才;还有青少年自杀前长期受到 AI 的负面附和,导致其父母直接起诉了 OpenAI。

为了解决 AI 盲目迎合用户的谄媚倾向,OpenAI 确实做了不少修补。8 月发布的 GPT-5 降低了谄媚率,并加入了能识别异常行为的路由机制;9 月上线了针对未成年人的年龄预测与家长控制;周二他们还宣布成立心理健康专业人士专家委员会。

隐私妥协,以及 Character.AI 走过的老路

问题在于,OpenAI 怎么保证情色内容不会落到未成年人手里。OpenAI 发言人向 TechCrunch 透露,公司会先依赖自研的年龄预测系统。

如果系统误把成年人判定成了小孩,用户就得上传政府颁发的身份证照片来解封。Altman 此前在博客里承认这是一种隐私妥协,但他认为这是值得的交换。

这也让人很难不联想到它的竞争对手。Character.AI 早就靠着浪漫恋爱和角色扮演吸引了数千万用户,2023 年其用户日均使用时长高达两小时,但同样深陷脆弱人群伤害的诉讼风波。民主与技术中心的一项报告还显示,19% 的高中生自己或朋友曾与 AI 谈过恋爱。

眼下,ChatGPT 已经有 8 亿周活跃用户,但面对 Google 和 Meta 的追赶,加上此前为历史级基建借来的数十亿美元投资,OpenAI 显然需要更强的用户黏性来赚钱回本。目前还不清楚这项情色放宽政策是否会延伸到语音、图像或视频工具中。

为什么重要

在我们看来,OpenAI 这一步走得既精明又充满风险。

对用户来说,终于不用再忍受一个冷冰冰的合规机器了。自定义语气和个性化陪伴让它更像一个合意的工作搭档或倾诉对象;至于成年人专属的情色内容,确实切中了大量私密陪伴需求,但前提是你得权衡好交出身份证件等真实隐私的代价。

对行业而言,这几乎宣告了生成式 AI「绝对道德安全期」的结束。当行业老大公开推行成人内容分级,其他一直小心翼翼的主流竞品很可能会被迫跟进,成人娱乐与情感陪伴这块长期被二线平台瓜分的百亿美元蛋糕,正被推向主流货架。

我们认为,Altman 提出「把成年人当成年人看」在逻辑上说得通,也是许多人期待的分级模式。但隐患在于,OpenAI 似乎过早认定了心理健康危机已经完全解决,仅凭年龄预测算法和一套还没完全证明有效的安全机制,就敢切入情感与情色地带,未来一旦再次出现心理脆弱用户的极端案例,这种松绑可能会招致极其严厉的监管反噬。

来源 (2)

  1. [1]
    @sama(在新标签页打开)原文x.com
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com

每日 AI 内容精选