跳到正文
IFAI

行业动态

OpenAI 成立福祉专家委员会:找心理学者把关 ChatGPT 与青少年心理

首次发布 传播指数 35

OpenAI 宣布成立「福祉与 AI 专家委员会」,吸纳心理学、精神病学和人机交互专家,指导 ChatGPT 与 Sora 的设计。重点是评估 AI 对情绪和心理健康的影响,特别是青少年群体,此前成员已参与家长控制与危机通知话术的设计。

OpenAI 成立福祉专家委员会:找心理学者把关 ChatGPT 与青少年心理
图:openai.com

当越来越多年轻人把 ChatGPT 当成树洞,甚至对着生成式视频投入真实情绪时,AI 公司的防线就不能只靠工程师在办公室里写过滤词了。

OpenAI 宣布成立「健康与 AI 专家委员会」(Expert Council on Well-Being and AI)。这个专门小组由心理学、精神医学以及人机交互领域的学者组成,核心任务就是指导 ChatGPT 和 Sora,研究怎样才能让不同年龄段的人和 AI 保持健康的互动关系。

六位专家进场,专盯情绪与青少年

这支首批顾问团一共拉来了 6 位业界重量级学者,阵容几乎完全冲着青少年发展和心理干预而来。

成员包括波士顿儿童医院数字健康实验室研究主任兼哈佛医学院助理教授 David Bickham,长期研究社交媒体对未成年人身心健康的影响。还有非营利机构 everyone.AI 的首席科学官 Mathilde Cerioli,专攻 AI 与儿童认知及情感发育的交叉领域。

另外几位也很有来头。佐治亚理工学院教授 Munmun De Choudhury 擅长用计算方法研究在线技术与心理健康;西北大学行为干预技术中心主任 David Mohr 长期研究如何用数字技术预防和干预抑郁与焦虑;Arcade Therapeutics 联席创始人 Tracy Dennis-Tiwary 教授则专注数字游戏与情绪调节;儿科医生出身的 Robert K. Ross 曾任加州捐赠基金总裁兼首席执行官,带来公共卫生视角的考量。

上周,这 6 位专家已经在 OpenAI 参加了第一次面对面研讨,直接和具体负责模型安全与交互设计的团队对接。

连家长通知的语气,都要心理学家抠细节

其实在正式建会之前,OpenAI 内部就已经开始向这批专家私下请教了。

一个很具体的例子是之前推行家长控制功能时,如果系统检测到青少年可能处于心理困境,该用什么话术去提醒家长。专家的反馈直接改变了那批系统通知的措辞,避免生硬的说教,尽量让文字在未成年人和家长两边听起来都足够温和且尊重。

除了这个新委员会,OpenAI 还拉拢了一个跨学科的「全球医师网络」(Global Physician Network)。他们主要由一线临床医生组成,覆盖精神科、心理学、儿科和危机干预,专门用来在真实场景下压力测试 ChatGPT 的应答逻辑。

不过 OpenAI 也在公告里特意把边界划得很清楚:专家们负责提建议、挑刺和制定健康标准,但所有的最终产品决策,依然由 OpenAI 自己说了算。

为什么重要

对普通用户和广大家长来说,AI 早就越过了冷冰冰的问答工具属性。越来越多青少年在向聊天机器人宣泄焦虑甚至探听危险想法,家长根本防不胜防。让真正懂儿童心理的学者去调教机器人的措辞与警报机制,至少能减少极端情况下的误导,对家庭用户是个实打实的利好。

对整个 AI 行业来说,这更像是一场针对监管的前置防御。当年社交媒体巨头因为青少年心理健康问题被多国议会和公众按在地上拷打,OpenAI 显然不想重蹈覆辙。与其等出事后被扣上侵害未成年人心理的帽子,不如早早把哈佛医学院和顶尖医院的专家拉进阵营。

我们认为,拉学术界和临床一线医生来抠文案细节是挺聪明的一招,这比工程师闭门造车堆安全规则要管用得多。但隐患也很明摆着:委员会没有任何决策权,只是顾问性质。当用户粘性、使用时长和心理健康建议发生冲突时,OpenAI 能不能顶住商业诉求把专家的意见落到实处,还得看他们后续主模型更新时的实际表现。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选