OpenAI 成立儿童安全团队：防范未成年人滥用 AI

如果家里有青少年，你可能会发现他们用 ChatGPT 的方式早就超出了写作业的范畴。

如今不少孩子正把聊天机器人当成倾诉心事树洞、心理辅导员甚至家庭矛盾调解员。面对这种意想不到的普及速度，OpenAI 坐不住了。

OpenAI 最近在官网招聘页面悄悄公开了一个新编制：儿童安全团队（Child Safety team）。他们目前正在招募专门的儿童安全执行专家，重点研究如何防范自家的生成式 AI 工具被未成年人滥用。

专人处理涉未成年人突发事件

根据岗位描述，这个新设立的儿童安全团队并不是单打独斗。

它将与 OpenAI 内部的平台政策、法务以及调查团队紧密配合，同时联合外部合作伙伴，专门管理与未成年用户相关的流程、内容审查和突发事件。

新招募的执行专家主要负责将现有的平台安全政策，具体落实到 AI 生成内容的审查流程中，重点盯防涉及儿童的各类敏感内容。

其实在表面条款上，OpenAI 早有防备。平台当前的使用条款明确规定，禁止 13 岁以下儿童使用，13 至 18 岁的未成年人使用必须获得家长同意。但谁都知道，互联网上的年龄门槛往往形同虚设。

挡不住的未成年用户群

孩子们对生成式 AI 的依赖程度，远比成年人想象得要深。

美国民主与技术中心（CDT）的一项民调显示，29% 的受访青少年表示曾使用 ChatGPT 来缓解焦虑或心理健康问题，22% 的人用它来处理朋友间的人际关系，还有 16% 的人拿它应对家庭冲突。

但伴随而来的风险也在成倍增加。英国安全互联网中心的一项调查显示，超过一半（53%）的未成年人表示，见过同龄人将生成式 AI 用于负面用途，例如制作极具欺骗性的虚假信息，或是生成用来伤害他人的图片。

国际监管机构的警灯也早已亮起。联合国教科文组织总干事 Audrey Azoulay 此前就公开敦促各国政府监管教育领域的生成式 AI，明确设立使用年龄限制和数据隐私护栏。面对监管风暴和舆论审视，OpenAI 必须拿出实质性动作。

为什么重要

我们认为，OpenAI 成立儿童安全团队，是它从一家技术研发机构向大众消费级平台演进时，不得不补上的一门必修课。

对于家长和教育工作者来说，孩子们接触 AI 的趋势已经无法逆转。过去学校试图一禁了之，后来发现根本堵不住。OpenAI 开始在团队架构上设立专职防火墙，至少能让针对青少年的内容滥用和心理诱导得到更及时的干预。

从商业和行业竞争来看，教育市场是 OpenAI 极其看重的增长点。他们前不久刚签下首个教育机构客户，并与 Common Sense Media 合作制定儿童 AI 指南。但教育市场同样也是合规雷区，美国 COPPA 等儿童隐私法规处罚极为严苛，一旦在未成年人保护上翻车，商业化进程可能瞬间搁浅。

不过，光靠人工审核专家来打补丁，显然还远远不够。大语言模型天然带有幻觉，且极易产生虚假共情，这对心智尚未成熟的未成年人尤其危险。我们认为，比起事后的违规审查，OpenAI 未来更需要在模型底层建立适应儿童心理特征的安全对齐机制，否则这场猫鼠游戏才刚刚开始。