跳到正文
IFAI

產業動態

OpenAI 成立福祉專家委員會:找心理學者把關 ChatGPT 與青少年心理

首次發布 傳播指數 35

OpenAI 宣佈成立「福祉與 AI 專家委員會」,吸納心理學、精神病學和人機互動專家,指導 ChatGPT 與 Sora 的設計。重點是評估 AI 對情緒和心理健康的影響,特別是青少年群體,此前成員已參與家長控制與危機通知話術的設計。

OpenAI 成立福祉專家委員會:找心理學者把關 ChatGPT 與青少年心理
圖:openai.com

當越來越多年輕人把 ChatGPT 當成樹洞,甚至對著生成式影片投入真實情緒時,AI 公司的防線就不能只靠工程師在辦公室裡寫過濾詞了。

OpenAI 宣佈成立「健康與 AI 專家委員會」(Expert Council on Well-Being and AI)。這個專門小組由心理學、精神醫學以及人機互動領域的學者組成,核心任務就是指導 ChatGPT 和 Sora,研究怎樣才能讓不同年齡段的人和 AI 保持健康的互動關係。

六位專家進場,專盯情緒與青少年

這支首批顧問團一共拉來了 6 位業界重量級學者,陣容幾乎完全衝著青少年發展和心理干預而來。

成員包括波士頓兒童醫院數字健康實驗室研究主任兼哈佛醫學院助理教授 David Bickham,長期研究社交媒體對未成年人身心健康的影響。還有非營利機構 everyone.AI 的首席科學官 Mathilde Cerioli,專攻 AI 與兒童認知及情感發育的交叉領域。

另外幾位也很有來頭。喬治亞理工學院教授 Munmun De Choudhury 擅長用計算方法研究線上技術與心理健康;西北大學行為干預技術中心主任 David Mohr 長期研究如何用數字技術預防和干預抑鬱與焦慮;Arcade Therapeutics 聯席創始人 Tracy Dennis-Tiwary 教授則專注數字遊戲與情緒調節;兒科醫生出身的 Robert K. Ross 曾任加州捐贈基金總裁兼執行長,帶來公共衛生視角的考量。

上週,這 6 位專家已經在 OpenAI 參加了第一次面對面研討,直接和具體負責模型安全與互動設計的團隊對接。

連家長通知的語氣,都要心理學家摳細節

其實在正式建會之前,OpenAI 內部就已經開始向這批專傢俬下請教了。

一個很具體的例子是之前推行家長控制功能時,如果系統檢測到青少年可能處於心理困境,該用什麼話術去提醒家長。專家的反饋直接改變了那批系統通知的措辭,避免生硬的說教,儘量讓文字在未成年人和家長兩邊聽起來都足夠溫和且尊重。

除了這個新委員會,OpenAI 還拉攏了一個跨學科的「全球醫師網路」(Global Physician Network)。他們主要由一線臨床醫生組成,覆蓋精神科、心理學、兒科和危機干預,專門用來在真實場景下壓力測試 ChatGPT 的應答邏輯。

不過 OpenAI 也在公告裡特意把邊界劃得很清楚:專家們負責提建議、挑刺和制定健康標準,但所有的最終產品決策,依然由 OpenAI 自己說了算。

為什麼重要

對普通使用者和廣大家長來說,AI 早就越過了冷冰冰的問答工具屬性。越來越多青少年在向聊天機器人宣洩焦慮甚至探聽危險想法,家長根本防不勝防。讓真正懂兒童心理的學者去調教機器人的措辭與警報機制,至少能減少極端情況下的誤導,對家庭使用者是個實打實的利好。

對整個 AI 行業來說,這更像是一場針對監管的前置防禦。當年社交媒體巨頭因為青少年心理健康問題被多國議會和公眾按在地上拷打,OpenAI 顯然不想重蹈覆轍。與其等出事後被扣上侵害未成年人心理的帽子,不如早早把哈佛醫學院和頂尖醫院的專家拉進陣營。

我們認為,拉學術界和臨床一線醫生來摳文案細節是挺聰明的一招,這比工程師閉門造車堆安全規則要管用得多。但隱患也很明擺著:委員會沒有任何決策權,只是顧問性質。當用戶粘性、使用時長和心理健康建議發生衝突時,OpenAI 能不能頂住商業訴求把專家的意見落到實處,還得看他們後續主模型更新時的實際表現。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選