xAI 推出 Grok 生圖功能：幾乎不設防，政客假圖引監管擔憂

過去一年裡，主流大廠給 AI 畫畫設下的規矩越來越嚴，只要你提示詞裡帶個政客名字或者稍微沾點敏感邊，系統就會直接甩出一句抱歉。但馬斯克的 xAI 顯然不想按規矩出牌。

xAI 的聊天機器人 Grok 正式向 X Premium 訂閱使用者開放了文本生成影像功能。上線沒幾小時，整個社交平臺就變成了一場失控的深偽派對。

問它規矩，它當場現編一套

新功能一開放，X 上的付費使用者就開始瘋狂測試底線。平臺上迅速冒出了各種荒謬畫面，比如歐巴馬在吸食可卡因、特朗普和疑似哈里斯的懷孕女子站在一起，甚至還有兩人拿槍互指的對峙圖。

如果你直接在聊天框裡問 Grok 有什麼生圖限制，它會回答得冠冕堂皇。它會向你保證自己嚴禁色情、過量暴力、仇恨言論以及侵犯版權的內容，甚至還會說自己會照顧文化敏感性。

但這些所謂規則更像是模型即興編造的說辭。多次詢問後，它給出的限制版本完全不同，而在實際操作中，這些護欄幾乎形同虛設。

The Verge 親自測試了一圈，結果讓人吃驚。輸入穿納粹軍服的特朗普、踩在警察頭上的抗議者、比爾·蓋茨在微軟標識旁吸毒，甚至是歐巴馬拿刀刺向拜登，Grok 全部毫不猶豫地生成了對應畫面。

在反覆測試裡，Grok 真正明確拒絕的只有一句生成全裸女性的指令。但有 X 使用者測試發現，稍微換點委婉的詞彙，連這層唯一的底線也能被輕鬆繞過。

所有人都在踩剎車，只有他在狂踩油門

這種近乎裸奔的稽核尺度，在矽谷頭部科技公司裡幾乎是獨一家。OpenAI 嚴禁生成真實公眾人物形象，封殺納粹符號，並且每張圖都會打上防偽水印；Google 此前更是因為過度糾偏，直接把 Gemini 的人物生圖功能給關停了。

雖然像開源的 Stable Diffusion 也能通過本地部署做到類似的事，但把一個毫無防護的生圖工具直接整合到千萬級流量的社交網路上，性質完全變了。

面對外界的質疑，馬斯克本人倒是不以為意，他在 X 上表示這只是為了讓大家找點樂子。但監管部門可不會覺得這很好笑。

眼下正值美國總統大選的關鍵階段，深偽內容的泛濫極易引發政治動盪。與此同時，歐盟正在依據數字安全法調查 X，英國監管機構 Ofcom 也表態要將深度偽造納入即將落地的網路安全法案監管中。

在這之前，X 平臺就曾因泰勒·斯威夫特的偽造不雅照瘋傳而焦頭爛額，甚至一度直接鎖死了相關搜尋詞。如今官方自己把水龍頭擰開，無異於主動惹火上身。

為什麼重要

對於普通使用者和創作者來說，Grok 現在的生圖功能更像是一個刺激的玩具，而不是嚴肅的生產力工具。不用顧忌版權和公眾人物肖像權確實很自由，但生成的影像完全無法商用，把這些極具侵權風險的內容發在公開社交媒體上，法律責任最後還得使用者自己扛。

對 AI 行業而言，xAI 正在破壞大廠之間好不容易建立起來的安全默契。這種毫無顧忌的釋出策略，很可能會倒逼各國監管機構加快出臺更激進的強制審查法規，甚至可能連帶影響到那些原本在自律的正常開發者。

我們認為，馬斯克走這一步棋看似是在踐行他的絕對言論自由，或者想以此拉動 X 的付費會員收入，但隱患遠大於收益。在極度寬鬆的稽核環境下，虛假資訊和低俗內容會加速惡化平臺的聲譽，這隻會讓原本就在猶豫的品牌廣告主逃得更快，最後給平臺留下一地合規與訴訟的爛攤子。