OpenAI 與 TikTok 等 10 家公司簽署準則：承諾主動標識 AI 生成內容

現在你在網上刷到一段影片，已經越來越難分清到底是用相機拍的，還是被演算法捏出來的。

生成式 AI 狂飆突進，官方監管還在後面緊趕慢趕，走在前面的大廠們決定先給自己套個籠頭。

OpenAI、TikTok、Adobe、BBC 以及約會軟體 Bumble 等 10 家機構，共同簽署了一套針對生成式 AI 的自願行動準則。這份框架由非營利組織 Partnership on AI（PAI）主導，在徵求了 50 多家機構的意見後出爐。

首批簽約名單還包括加拿大廣播公司 CBC/Radio-Canada、人權機構 Witness，以及 Synthesia、D-ID、Respeecher 這幾家主打合成媒體的初創公司。

給 AI 內容貼上防偽標籤

這套準則的核心要求只有兩個字：透明。

它不僅要求做底層模型的 OpenAI 交代清楚技術能做什麼、不能做什麼，也要求 TikTok 和 BBC 這類分發平臺必須明明白白告訴使用者：你現在看到或互動的內容，是 AI 生成的。

落實到具體操作上，簽約公司承諾探索各種告知手段，比如在影片和圖片裡打上水印、附帶明確的免責宣告，或者在模型的訓練資料和後設資料中留下可追溯的標記。

PAI 媒體完整性負責人 Claire Leibowicz 表示，他們的目標是確保合成媒體不會被用來剝奪權利或造成傷害，而是用來支援創作與知識分享。

參與起草指南的生成式 AI 專家 Henry Ajder 也直言，眼下的生成式 AI 就像一片「狂野西部」，這套指南至少能給準備接入這項業務的公司提個醒。

「全憑自願」治不了壞人

但這套君子協定一公佈，就引來了不少專家的潑冷水。

加州大學伯克利分校研究深度偽造的教授 Hany Farid 直截了當地指出，自願性質的指南和原則幾乎從來沒起過作用。

他的擔憂很現實：就算 OpenAI 願意給 ChatGPT 和 DALL-E 加上安全護欄，那些不在聯盟裡的玩家怎麼辦？比如開源了 Stable Diffusion 的 Stability.AI，就很難管住別人用它去生成不當影像和換臉假圖。

Farid 認為真正有效的做法必須動真格：蘋果、谷歌、微軟和亞馬遜等擁有應用商店和雲基礎設施的巨頭，應該直接封殺那些用於製作非自願色情合成圖的工具，同時全網強制推行 AI 水印，而不是讓企業憑自覺選配。

英特爾高階研究科學家 Ilke Demir 和數字權利組織 Access Now 的 Daniel Leufer 則指出了另一大盲區：這份準則防範了詐騙、騷擾和虛假資訊，卻對模型訓練本身的漏洞隻字未提。

訓練資料集裡有沒有投毒？模型是不是總偏向於生成白人？這些潛在偏見同樣是傷害。Farid 甚至提出了一個更尖銳的問題：既然大家都承認這項技術會帶來嚴重危害，那為什麼沒人先停下來問一句「我們一開始到底該不該做它」？

為什麼重要

對普通使用者來說，這份準則短期內最直接的改變，是你在刷短影片、用社交軟體或看新聞時，可能會更頻繁地看到「AI 生成」的提示標籤。這能幫你少踩一點虛假資訊的坑，但在開源工具氾濫的當下，你依然不能把螢幕上的畫面完全當真。

對行業而言，大廠搶在監管前抱團立規矩，明顯是在給自己做防禦性公關。歐盟正在推進的《人工智慧法案》（AI Act）已經盯上了深度偽造和生成式 AI 的透明度要求，企業先拿出自律姿態，無非是想在更嚴苛的立法落地前爭取主動權。

我們認為，這份準則走得聰明的地方在於，它把模型商、工具鏈和分發平臺拉到了同一張桌子上，至少確立了「AI 內容必須標識」的行業共識。

但它的隱患也擺在明面上：沒有懲罰機制的倡議，在商業競爭和流量誘惑面前往往不堪一擊。如果違規沒有任何實質代價，光靠 10 家「模範生」自我約束，根本攔不住狂野生態裡的灰產與惡意濫用。