Instagram 測試 AI 內容標識：明確標註由 AI 建立或修改

今年早些時候，那張教皇身穿潮流羽絨服的照片在社交平臺上瘋傳。雖然事後證明只是一場惡搞，但它給所有人提了個醒：只要工具足夠簡單，任何人都能隨手捏造一張真假難辨的政治或新聞照片。

現在，全球最大的圖片分享平臺 Instagram 準備動手管一管了。

經常提前挖出應用新功能的研究員 Alessandro Paluzzi，最近在 Instagram 應用內抓到了一張還在開發中的功能截圖。頁面明確提示，平臺正在給「使用 AI 建立或編輯」的內容打上專門標籤。

截圖曝光：Meta 不打算全靠自覺

根據曝光的截圖，這套提示會明確告訴讀者：創作者或 Meta 表示此內容由 AI 建立或編輯。在截圖的案例中，系統特別標註了該圖片由「Meta AI」生成，並附帶了一小段文字，向讀者解釋什麼是生成式 AI，以及平時該怎麼識別用了 AI 的帖子。

這件事發生的時機很微妙。前不久，Meta 剛剛跟 Google、微軟、OpenAI 一起，向白宮簽署了一份關於負責任開發 AI 的承諾。其中關鍵的一條，就是建立一套水印或標識系統，讓受眾清楚知道眼前的內容是不是 AI 搞出來的。

現在大家最關心的，是這套標籤到底有多自動化。

完全指望發帖者自己老老實實勾選「我用了 AI」，顯然防不住惡意造假。但截圖裡那句「Meta 表示」，給外界透了個底：至少在某些情況下，Meta 打算自己下場主動識別並貼上標籤，而不是全看使用者的誠實度。

Engadget 向 Meta 發言人求證時對方拒絕置評，The Verge 發去的置評請求當時也沒得到即時回覆。

還沒放開大招，先備好防偽貼紙

雖然 Meta 最近開源了 LLaMA 2 大語言模型，但在自家的 Instagram、Facebook 這些主力產品裡，還沒有大規模面向普通使用者鋪開消費級的生成式 AI 工具。

不過動作已經在路上了。

據 Axios 報道，扎克伯格在 6 月的全員大會上就透露過，Meta 正在開發允許使用者通過文本提示詞修改 Instagram Stories 照片的新功能。Paluzzi 之前也挖出過一個「AI 畫筆」（AI brush）工具，可以讓使用者隨意新增或替換圖片中的特定區域。

另外據《金融時報》報道，Meta 最快下個月就會在旗下產品裡塞進帶有不同性格的 AI 聊天機器人。

除了 Meta，同行也在找解法。Google 之前宣佈了「About this image」（關於此圖片）功能，計劃在這個夏天上線，通過展示一張圖片最早被搜尋引擎收錄的時間和地點，幫大家追蹤源頭。

為什麼重要

我們認為，Instagram 這個看起來不起眼的標籤，實際上是主流社交平臺面對生成式內容浪潮時的一道關鍵防火線。

對普通使用者和創作者來說，這至少能省去大量無謂的爭論。以後刷到一張過於完美的風景照或抓拍照，不用再費勁在評論區逐幀找破綻，系統標籤會直接給出答案。不過，這對老實創作的畫師和攝影師也是個考驗：如果微調了一下色彩就被系統打上「AI 製造」，會不會影響作品的原創信譽，界限到底劃在哪裡，目前依然很模糊。

在行業層面，Meta 這次走得算比較聰明。它沒有等到自家各種 AI 修圖、AI 塗抹工具全面上線後再去打補丁，而是先把審查和提示的框架搭好。這既兌現了給白宮的承諾，也搶在同行前面立起了負責任的平臺形象。

但這裡的隱患也很明顯。完全依賴「Meta said」的主動識別，意味著平臺必須擁有一套極其精準的鑑別模型。一旦出現假陽性誤傷真人作品，或者假陰性放過了惡意的政治假圖，平臺的公信力都會遭到嚴重反噬。說白了，貼標籤容易，但怎麼把這套機制做得公平且靠譜，Meta 面臨的真正大考還在後面。