跳到正文
IFAI

產業動態

西班牙洪災真照片被當成 AI 作假:低質內容正讓人們不敢相信現實

首次發布 傳播指數 37

據《衛報》專欄報道,西班牙瓦倫西亞洪災中數十輛車堆疊的真實街景照片走紅,卻被大批網民指責為「AI 假圖」。最值得關注的是,生成式 AI 工具製造的低質內容正淹沒社交平臺,導致公眾甚至開始習慣性懷疑真實災難畫面的真實性。

西班牙洪災真照片被當成 AI 作假:低質內容正讓人們不敢相信現實
圖:theguardian.com

一張西班牙瓦倫西亞洪災後的街景照片,在社交媒體上徹底火了,但評論區的大多數人第一反應不是同情,而是斷言:這絕對是 AI 畫的假圖。

照片裡,大約 70 輛汽車在一條狹窄街道上像玩具一樣疊在一起,角度詭異,車漆泛著奇異的光澤,周圍甚至沒有特別碎裂的殘骸。暴雨在八小時內倒下了每平方米超過 490 升的雨量,兇猛的急流把重型 SUV 衝得亂飛,但在螢幕另一端的看客眼裡,這太像 Midjourney 或者 DALL-E 生成的逼真渲染了。

科技記者 Charles Arthur 覺得不對勁,順著圖片開始做偵探工作。他在 Facebook 上搜到了圖裡露出招牌的一家酒吧,又在 Apple Maps 上找到了具體街道,最後用街景模式比對,證明這張照片百分之百是現場真實拍攝的。

現實太離奇,還是假圖看多了?

為什麼一張真實的災難照片會被大範圍當成假新聞?

最顯眼的藉口是照片本身的質感,長焦鏡頭壓縮了空間感,車身造型圓潤,光影乾淨得不合常理。但更深層的原因是,大家被社交網路上鋪天蓋地的「AI 垃圾內容」(AI slop)搞怕了,現在的預設心理已經變成了「凡是沒見過的奇景,一律先當 AI 看待」。

按常理說,這種劣質虛假內容氾濫,社交巨頭應該頭疼才對。然而事實恰恰相反,平臺正在主動擁抱這些東西。

據科技媒體 404 Media 報道,Meta 執行長馬克·扎克伯格在近期的財報電話會上就明確表示,Meta 準備在 Facebook、Instagram 和 Threads 上引入一類全新內容,也就是完全由 AI 生成或由 AI 彙總整理的內容。扎克伯格覺得,這能讓使用者的資訊流體驗變得更好。

說白了,平臺只在乎使用者的停留時間和互動率。只要能讓人停下來多看兩秒,是真實的新聞還是 AI 生成的荒誕圖片,對演算法來說根本沒有區別。

在供應端,製造 AI 垃圾更是門旱澇保收的生意。調查發現,很多海外內容農場專門用 AI 生成極端催淚或驚悚的假圖,比如渾身被蟲子啃食的老人。有當地分析師透露,煽動起使用者的情緒後,創作者靠平臺的互動激勵獎金,每換來一千個點贊就能拿到 100 美元。

為什麼重要

我們認為,這件事敲響了一個比「造假」更可怕的警鐘:當虛假內容隨處可見時,真正的現實就會被當成謊言。

過去業內一直在防範 Deepfake,擔心有人用 AI 製造逼真的假象去騙人。但西班牙這場洪災展現了另一種反噬效應,也就是公眾的信任基準徹底崩潰。當普通人對眼前的一切都抱持懷疑態度,真實的災難無法得到及時共鳴,受害者的苦難在演算法推薦裡被降格為一次「生成式畫作」的審美爭論。

對普通使用者來說,在現階段依靠肉眼辨別資訊真偽的成本已經高到了不切實際的地步。你很難指望每個人都像調查記者那樣去翻街景比對建築,結果要麼是被垃圾資訊牽著鼻子走,要麼乾脆對所有真實事件失去感知力。

從平臺生態來看,Meta 等巨頭的做法看起來極度短視。為了眼前的資料指標,把 AI slop 作為一種「內容新格式」合法化,等於主動在資訊流裡注水。創作者為了獎金生產聳人聽聞的 AI 廢料,演算法推波助瀾,使用者在真假難辨的泥潭裡逐漸疲憊。

這種正向反饋閉環雖然在短期內撐住了平臺的活躍度,但長期看是在加速平臺的全面劣質化。當一個社交網路裡連最真實的自然災害都被視作虛構,它所承載的公共空間價值也就基本歸零了。

來源 (1)

  1. [1]
    theguardian.com(在新分頁開啟)原文theguardian.com

每日 AI 內容精選