Sora 上線 Cameo 限制功能：能自定義禁令，防止形象被濫用

把自己的臉授權給全世界網友做影片，結果一覺醒來，發現自己成了政論節目主播，或者正在說髒話。這種讓很多普通人和創作者頭疼的事，OpenAI 終於開始打補丁了。

上線短短幾天，處於邀請制階段的 Sora 迅速衝上了 App Store 榜單前列。除了生成逼真的影片，Sora 最讓人上癮也最危險的功能是 Cameo。使用者只要上傳自己的生物特徵資料，就能把自己的數字分身塞進各種 AI 影片裡，甚至開放給其他人隨意呼叫。

不過，玩火很快帶來了麻煩。不僅很多普通使用者擔心自己的臉被濫用，網上還迅速湧現出大量讓皮卡丘、海綿寶寶跟 OpenAI 執行長 Sam Altman 的深度偽造分身互動的影片，甚至借這些角色的嘴嘲弄 OpenAI 的版權政策。

面對失控的風險，OpenAI 負責人 Bill Peebles 和 CEO Sam Altman 先後發聲，一口氣推出了多項限制功能與安全調整。

先給分身立規矩，再把版權開關收回來

針對個人數字分身，Bill Peebles 宣佈正式上線 Cameo 限制功能。使用者進入 Cameo 設定的偏好限制後，可以直接用自然語言給自己的數字分身立規矩。

比如你可以輸入「不要把我放進任何涉及政治評論的影片裡」，或者「禁止讓我說某些髒話或特定詞彙」。Bill Peebles 表示，後續還會上線更多維度的控制手段，讓大家既能分享形象，又不必交出靈魂。

另一個更大的轉向發生在版權上。據《華爾街日報》此前的報道，OpenAI 在釋出前曾通知好萊塢製片廠，如果不希望自家 IP 被 Sora 使用者生成，必須主動申請退出。

但現在 Altman 發文改口了。Sora 準備轉向細粒度的「自願加入」（opt-in）模式。也就是說，除非製片廠或版權方明確點頭授權，否則使用者未來將無法隨意用受保護的角色生成影片。

Altman 承認這就像一種「互動式同人小說」，很多版權方其實很興奮，但前提是必須能自主決定角色怎麼用，包括徹底禁止生成。當然，他也坦承新技術初期總會有漏網之魚。

浮水印更顯眼，順便把賬號解綁了

除了版權和肖像權的大調頭，Sora 還在修補一系列體驗上的漏洞。

Bill Peebles 提到，官方正在重新設計影片水印，接下來的水印會更加清晰、顯眼，防止生成的影片在社交網路上被當成真事傳播。

在模型稽核方面，OpenAI 正在調整安全技術棧，目標是堵住那些能繞過安全檢查的提示詞漏洞，同時儘量減少誤傷。Peebles 直言團隊知道過度稽核很讓人抓狂，但在全世界還在適應這種技術的階段，保持保守是必要的。

此外還有一個頗具戲劇性的修復：此前有使用者發現，如果你想登出 Sora 賬號，系統竟然會強制連帶登出你的 ChatGPT 賬號。OpenAI 這次終於把兩個賬號的登出邏輯拆開了。

至於怎麼賺錢，Altman 也鬆了口。除了原定在高需求時段向用戶收費外，OpenAI 已經在考慮商業變現，並暗示可能會把生成影片獲得的收入跟版權方進行分成。

為什麼重要

對於想嚐鮮的普通使用者和內容創作者來說，這次更新終於給真人出鏡留了一條安全底線。此前誰也不敢輕易開放 Cameo，生怕第二天自己就成了惡搞梗圖的主角。現在你能用自然語言給 AI 設紅線，才算真正邁出了個性化 AI 形象商用或社交化的第一步。

對於好萊塢和整個內容產業而言，OpenAI 從「不服就退」到「求你加入」的態度轉變，說明生成式影片在版權大棒面前沒有特權。如果未來真能跑通互動同人與收入分成的模式，影視公司可能會從把 AI 當作侵權仇敵，轉向把 AI 當成新的變現衍生渠道。

我們認為，OpenAI 這一連串動作看起來手忙腳亂，但反應算得上極其迅速。影片生成越逼真、生成門檻越低，版權和肖像侵權的法律反噬就越猛烈。給 Cameo 下指令和引入版權分成是很聰明的退讓，不過真正的隱患依然在執行層面：用自然語言限制分身發言能否百分之百防住越獄提示詞，漏網之魚出現時平臺該負多大責任，依然是懸在 Sora 頭上的達摩克利斯之劍。