跳到正文
IFAI

行业动态

OpenAI 拟推年龄预测系统:未成年人安全优先于自由与隐私

首次发布 传播指数 44

OpenAI 阐述了平衡青少年安全、自由与隐私的新举措。平台正构建年龄预测系统区分成年与未成年用户,若存疑将默认切入未成年模式,甚至可能要求验证证件。针对未成年人将限制调情及自残创作等内容,并在危机时通知家长或警方。

OpenAI 拟推年龄预测系统:未成年人安全优先于自由与隐私
图:openai.com

当你向 AI 倾诉最隐秘的烦恼时,你希望它像心理医生一样替你严格保密,还是希望平台在后台时刻盯着、防止出事?对于 OpenAI 来说,这两个要求恰好撞车了。

OpenAI 官方发文,公开谈论了团队内部在青少年安全、成人自由与用户隐私之间的激烈冲突,并明确拿出了自己的权衡方案。

把成年人当成年人,把未成年人管起来

OpenAI 提出的一大核心原则是:把成年用户当成成年人来对待。他们认为,随着模型变得更容易被引导,平台应该给成年人尽可能多的自由。

比如,ChatGPT 默认不会主动跟人打情骂俏,但如果一个成年人明确要求调情,模型就应该配合。哪怕是涉及自杀这种极度敏感的话题,如果成年人只是在写小说、需要虚构相关情节,AI 也应该提供帮助。

在隐私上,OpenAI 走得比以往更激进。他们认为用户和 AI 的对话,其敏感程度不亚于看医生或找律师,因此正在游说政策制定者,希望让 AI 对话享有类似医患、律客之间的特权保密级别。

他们还在研发高级安全技术,确保连 OpenAI 自己的员工也看不到用户的对话数据。不过这种特权并非没有例外,当系统监测到可能危及生命、伤害他人或社会级网络攻击等重大安全风险时,依然会升级到人工审核。

猜你的年龄,必要时还要联系家长

然而,一旦面对未成年人,这套自由和隐私的逻辑就要让位了。OpenAI 明确表示,对于青少年,安全必须排在隐私和自由前面。

首先是怎么把未成年人揪出来。ChatGPT 本身面向 13 岁及以上用户,OpenAI 正在开发一套年龄预测系统,通过用户的实际使用行为来估算年龄。只要系统拿不准,就会直接默认切换到 18 岁以下的保护模式。

在某些国家或特定场景下,平台甚至会要求用户上传身份证件。OpenAI 承认这对成年人的隐私是个妥协,但他们认为这种代价是值得的。

进入未成年人模式后,规则会彻底收紧。哪怕未成年人主动要求,ChatGPT 也绝不进行调情对话;即便在写故事的语境下,也绝不讨论自杀或自残。

更关键的是干预手段。一旦系统发现 18 岁以下用户出现自杀念头,OpenAI 会尝试联系该用户的父母;如果联系不上且情况危急,还会直接报警或联系有关部门。配合这一机制的,还有一套全新的家长控制功能。

为什么重要

我们认为,OpenAI 这次最大的亮点在于打破了过去的「一刀切」思维,敢于把成年人和未成年人的规则公开拆开来做。过去大模型动辄把所有用户当成心智未成熟的小孩来防,搞得正常成年人写个悬疑剧本都被频繁警告,这种体验非常糟糕。把成年人的创作和表达自由还给成年人,方向绝对是走对了。

但这里的隐患也非常棘手。靠使用习惯来「猜测」一个人多大,在工程上极难做到精准。万一系统把成年人误判成孩子,或者叛逆的青少年三两句话就骗过检测,整个防护网就会陷入尴尬。而一旦退回到强制查身份证,又直接推翻了它前面宣称的极致隐私保护。

对整个行业来说,OpenAI 迈出的这一步会给同行施加巨大压力。它一方面呼吁把 AI 对话提升到医疗、法律级别的特权保密高度,另一方面又把紧急情况下「联系家长甚至报警」写进了未成年人安全守则。这实际上是在重新划分大模型公司的责任边界:AI 不再只是个冰冷的文本框,它既要在法律上守口如瓶,又要在生命关头承担起监护防线的角色。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选