跳到正文
IFAI

產業動態

OpenAI 擬推年齡預測系統:未成年人安全優先於自由與隱私

首次發布 傳播指數 44

OpenAI 闡述了平衡青少年安全、自由與隱私的新舉措。平臺正構建年齡預測系統區分成年與未成年使用者,若存疑將預設切入未成年模式,甚至可能要求驗證證件。針對未成年人將限制調情及自殘創作等內容,並在危機時通知家長或警方。

OpenAI 擬推年齡預測系統:未成年人安全優先於自由與隱私
圖:openai.com

當你向 AI 傾訴最隱秘的煩惱時,你希望它像心理醫生一樣替你嚴格保密,還是希望平臺在後臺時刻盯著、防止出事?對於 OpenAI 來說,這兩個要求恰好撞車了。

OpenAI 官方發文,公開談論了團隊內部在青少年安全、成人自由與使用者隱私之間的激烈衝突,並明確拿出了自己的權衡方案。

把成年人當成年人,把未成年人管起來

OpenAI 提出的一大核心原則是:把成年使用者當成成年人來對待。他們認為,隨著模型變得更容易被引導,平臺應該給成年人儘可能多的自由。

比如,ChatGPT 預設不會主動跟人打情罵俏,但如果一個成年人明確要求調情,模型就應該配合。哪怕是涉及自殺這種極度敏感的話題,如果成年人只是在寫小說、需要虛構相關情節,AI 也應該提供幫助。

在隱私上,OpenAI 走得比以往更激進。他們認為使用者和 AI 的對話,其敏感程度不亞於看醫生或找律師,因此正在遊說政策制定者,希望讓 AI 對話享有類似醫患、律客之間的特權保密級別。

他們還在研發高階安全技術,確保連 OpenAI 自己的員工也看不到使用者的對話資料。不過這種特權並非沒有例外,當系統監測到可能危及生命、傷害他人或社會級網路攻擊等重大安全風險時,依然會升級到人工稽核。

猜你的年齡,必要時還要聯絡家長

然而,一旦面對未成年人,這套自由和隱私的邏輯就要讓位了。OpenAI 明確表示,對於青少年,安全必須排在隱私和自由前面。

首先是怎麼把未成年人揪出來。ChatGPT 本身面向 13 歲及以上使用者,OpenAI 正在開發一套年齡預測系統,通過使用者的實際使用行為來估算年齡。只要系統拿不準,就會直接預設切換到 18 歲以下的保護模式。

在某些國家或特定場景下,平臺甚至會要求使用者上傳身份證件。OpenAI 承認這對成年人的隱私是個妥協,但他們認為這種代價是值得的。

進入未成年人模式後,規則會徹底收緊。哪怕未成年人主動要求,ChatGPT 也絕不進行調情對話;即便在寫故事的語境下,也絕不討論自殺或自殘。

更關鍵的是干預手段。一旦系統發現 18 歲以下使用者出現自殺念頭,OpenAI 會嘗試聯絡該使用者的父母;如果聯絡不上且情況危急,還會直接報警或聯絡有關部門。配合這一機制的,還有一套全新的家長控制功能。

為什麼重要

我們認為,OpenAI 這次最大的亮點在於打破了過去的「一刀切」思維,敢於把成年人和未成年人的規則公開拆開來做。過去大模型動輒把所有使用者當成心智未成熟的小孩來防,搞得正常成年人寫個懸疑劇本都被頻繁警告,這種體驗非常糟糕。把成年人的創作和表達自由還給成年人,方向絕對是走對了。

但這裡的隱患也非常棘手。靠使用習慣來「猜測」一個人多大,在工程上極難做到精準。萬一系統把成年人誤判成孩子,或者叛逆的青少年三兩句話就騙過檢測,整個防護網就會陷入尷尬。而一旦退回到強制查身份證,又直接推翻了它前面宣稱的極致隱私保護。

對整個行業來說,OpenAI 邁出的這一步會給同行施加巨大壓力。它一方面呼籲把 AI 對話提升到醫療、法律級別的特權保密高度,另一方面又把緊急情況下「聯絡家長甚至報警」寫進了未成年人安全守則。這實際上是在重新劃分大模型公司的責任邊界:AI 不再只是個冰冷的文本框,它既要在法律上守口如瓶,又要在生命關頭承擔起監護防線的角色。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選