OpenAI 考慮放寬限制：正在探討如何「負責任地」生成成人內容

一直以來，AI 廠商對成人內容向來是避之唯恐不及。你在 ChatGPT 裡稍微打個擦邊球，往往換來的都是冷冰冰的一句無法生成。

不過，這家全球最受矚目的 AI 公司正打算鬆動這條紅線。OpenAI 在一份探討模型行為規範的說明文件中提出，正在探索如何負責任地允許生成 NSFW 內容，包括色情文本、裸體以及具有性意味的創作，前提是處於適齡場景下。

訊息一齣，輿論立刻炸了鍋。

探風向的試水，還是想吃禁果

OpenAI 產品團隊成員 Joanne Jang 在接受 NPR 採訪時表示，公司希望啟動一場討論，探討在不違法且不侵犯他人權利的前提下，儘可能賦予使用者最大控制權。

按 Joanne Jang 的說法，在某些藝術創作和文學表達中，涉及性和裸體的內容對創作者相當重要。但這並不意味著 OpenAI 現在就要主動做色情生成器，具體算不算色情，取決於不同人的定義。

OpenAI 隨後也在官方宣告中強調，絕對禁止利用 AI 製作任何換臉偽造內容（Deepfake），重點在於保護未成年人，只會在適齡環境下探索性相關內容的邊界。

但這已經不是 OpenAI 第一次試探底線了。早前其技術長 Mira Murati 在接受《華爾街日報》採訪時，就被問及影片生成工具 Sora 未來是否會開放成人內容，她當時就給了一個意味深長的回答：不太確定。

行業潑來一盆冷水

外界對 OpenAI 的這番說辭普遍存疑，甚至批評其正在背離自身安全有益的創立宗旨。

英國上議院議員、兒童線上安全倡導者 Beeban Kidron 指責 OpenAI 正在迅速削弱自己的使命宣言，批評科技公司不去解決既有的技術危害，反而打起成人內容這種商業算盤。

達勒姆大學專門研究色情管制的法學教授 Clare McGlynn 則直接表示，她對任何科技公司所謂負責任生產成人內容的承諾都深表懷疑。現實裡很難界定什麼才是真正合規、經由同意的成人素材。

技術攔截從來都不是密不透風的。今年 1 月，基於 OpenAI 模型的微軟 Designer 工具就曾被人鑽空子，生成了泰勒·斯威夫特的大量虛假裸照。而在英國、紐西蘭和澳大利亞的一項民調中，16 到 64 歲受訪者裡有 14% 曾遭遇深度偽造影像的傷害。

更現實的問題是版權。成人內容從業者指出，OpenAI 的模型是在海量公開網路資料上訓練出來的，其中難免混入了成人創作。如果官方直接下場開放成人內容生成，無異於拿著創作者的作品訓練模型，反過來搶創作者的飯碗。

為什麼重要

成人內容向來是網際網路新技術的催化劑，但對 OpenAI 來說，這步棋風險極大。

對創作者和開發者來說，如果 OpenAI 真的能理清界限，文學創作、藝術設計和人體解剖等邊緣場景確實能鬆一口氣，不用動輒觸發安全風控。但只要大門開了一條縫，黑產和擦邊內容就會蜂擁而至，如何在 API 層面做到精準的適齡識別，目前整個行業根本沒有成熟的解決方案。

對行業競爭而言，開源社群和大量未經審查的小模型已經在成人領域賺足了眼球和流量。OpenAI 此時放風，看起來是在防守這塊流失的使用者基本盤，試圖把那些因為嚴苛規則轉向開源模型的開發者拉回來。

我們認為，OpenAI 提出負責任地探索，邏輯上很難自圓其說。現有的文本和影像安全過濾機制尚且漏洞百出，在沒有辦法徹底杜絕非自願色情和深度偽造的情況下，貿然試探成人內容紅線，不僅會給監管機構送上把柄，也更容易引發公眾信任危機。