跳到正文
IFAI

產業動態

OpenAI 釋出青少年安全藍圖:正開發年齡預測系統定製 ChatGPT

首次發布 傳播指數 38

OpenAI 釋出「青少年安全藍圖」,規範未成年人使用 AI 的防護標準。官方透露正開發年齡預測系統以識別 18 歲以下使用者,並已上線家長控制與主動通知功能。這意味著在外部監管落地前,平臺正加速構築未成年人保護網。

OpenAI 釋出青少年安全藍圖:正開發年齡預測系統定製 ChatGPT
圖:openai.com

給未成年人上網築牆,網際網路大廠試了十幾年,現在輪到大模型公司面對這道考題了。

OpenAI 釋出了「Teen Safety Blueprint」(青少年安全藍圖),試圖為 AI 工具劃出適齡邊界,並給正在制定監管標準的政策制定者提供參考。

識別年齡,主動把關

OpenAI 稱不會等外部監管出臺才行動,這套框架已經在自家產品上逐步落地。

最近幾個月,OpenAI 加強了對低齡使用者的防護措施,並上線了帶主動通知功能的家長控制工具。

更受關注的是技術層面的探索。OpenAI 正在開發一套年齡預測系統,用來判斷使用者是否未滿 18 歲,進而主動調整 ChatGPT 的互動體驗和內容邊界。

為什麼重要

對家長和青少年來說,如果 ChatGPT 能靠演算法預測年齡並主動過濾風險,至少比簡單勾選「我已滿 18 歲」要管用得多。

但在我們看來,這套做法的最大考驗也在於這個「年齡預測系統」。單靠對話行為和賬號資料判斷年齡,極容易出現誤判,還可能引發新的隱私爭議。

從行業角度看,OpenAI 顯然想搶在監管機構出臺硬性法令之前,把自己的標準變成行業事實上的模板。如果其他大模型廠商被倒逼跟進,未成年人保護可能會迅速變成 AI 消費級產品的強制標配。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選