Grok 生成泰勒·斯威夫特不雅深偽，15 家機構要求 FTC 調查

如果你想讓 AI 給你生成一段明星的脫衣影片，大部分主流工具都會直接把你封號，或者彈出一行紅字拒絕執行。但 Elon Musk 旗下的 xAI 顯然不信這一套。

近日，美國消費者聯合會（CFA）聯合 Tech Oversight Project、經濟正義中心以及電子隱私資訊中心（EPIC）等 15 家消費者權益保護組織，正式向美國聯邦貿易委員會（FTC）以及全美 50 個州和哥倫比亞特區的總檢察長髮出聯名信，要求對 Grok 展開緊急調查。

這次被盯上的焦點，是 Grok 本月剛上線的 AI 生圖和影片工具 Imagine，以及它主打的「Spicy」辣妹模式。

沒主動要求，它也能生成裸照

事情的導火索其實是 The Verge 在測試 Grok Imagine 時的一次意外發現。當時測試人員甚至沒有主動輸入任何裸露指令，這個工具就直接吐出了泰勒·斯威夫特（Taylor Swift）的半裸偽造影片。

根據聯名信的描述，雖然 Grok 目前沒有對使用者自行上傳的真實照片開放這個「Spicy」模式，但系統生成的影片依然可以精準還原特定真實人物的裸體樣貌。聯名信指出，這類生成內容對被描繪的當事人以及未成年人都會造成極其惡劣的傷害。

維權組織特別警告，Musk 和他的平臺一直有一種以「言論自由」為名拆除安全稽核機制的偏好。如果未來 xAI 把上傳真人照片的限制給放開了，網路上很可能會瞬間爆發海量的非自願偽造裸照。

在美國，《撤下法案》（Take It Down Act）明令禁止明知故犯地傳播真人 AI 裸照。不過聯名信也提到，該法案的具體條款目前可能很難直接套用到 Grok 身上，因此他們要求 FTC 和各地總檢察長從非自願親密影像相關法律入手，調查 xAI 是否存在違法行為。

防未成年人，只靠一個預設填好的彈窗

除了針對名人的深度偽造，未成年人保護是這次聯名信裡另一個被猛烈開火的點。

維權組織指出，擋在未成年人和 Grok 生成色情內容之間的唯一防線，居然只有一個簡單的彈窗。這個彈窗僅僅詢問使用者是否年滿 18 歲，或者讓使用者選一個出生年份。

更讓人難以接受的是，其中一個彈窗的出生年份預設選項居然直接幫使用者預填了「2000 年」。也就是說，任何一個未成年人只要閉著眼睛順手點一下確認，就能直接繞過驗證進入成人模式。

這些組織認為，這種形同虛設的驗證流程，可能已經直接違反了美國的《兒童線上隱私保護法》（COPPA）以及多個州針對成人內容制定的年齡驗證法規。

為什麼重要

這起投訴把 AI 行業最敏感的紅線問題再次推到了聚光燈下。對於普通創作者來說，Grok 的 Imagine 工具和所謂的「Spicy」模式雖然主打無拘無束的創作自由，但目前來看法律風險極大，甚至隨時可能因為監管叫停而被迫下架或大改。

在行業層面，Musk 一直試圖將 xAI 塑造成反傳統稽核的叛逆者，以此從 OpenAI、Google 等嚴防死守安全紅線的巨頭手裡搶奪擁躉。我們認為，這種策略短期內確實製造了巨大噱頭，但用毫無門檻的預設選項來應付未成年人保護，甚至在沒有明確提示詞的情況下主動輸出名人深度偽造內容，做法不僅極其草率，而且直接踩中了法律紅線。

監管機構對這封聯名信的反應，很可能成為衡量生成式 AI 色情內容治理標準的一個標杆。如果 FTC 介入並認定這種近乎虛設的年齡彈窗違法，未來所有提供寬鬆內容稽核的生成式工具，都將被迫建立更嚴格的實名驗證和真人面部攔截機制，靠「打擦邊球」吸引眼球的野蠻生長期恐怕很快就要到頭了。