Midjourney 叫停免費試用:臨時賬號刷圖太猛,付費使用者先被擠崩
Midjourney 宣佈暫停免費試用。CEO David Holz 透露,大量使用者註冊臨時賬號刷圖,恰逢 GPU 短缺,甚至影響了付費使用者體驗;這並非因為近期川普等深度偽造圖瘋傳。團隊正在重新設計驗證機制以防濫用。

前幾天,網上到處是特朗普被捕的逼真照片,緊接著又是教皇穿著白色羽絨服走秀,不少人真信了。
很多媒體第一反應是:AI 生圖引發的虛假資訊危機終於爆發了,官方頂不住壓力只能關門整改。但實際情況可能沒那麼戲劇化,而是更接地氣的問題——羊毛黨太多,算力不夠用了。
停掉免費,是因為羊毛黨把伺服器擠爆了
AI 生圖工具 Midjourney 宣佈暫停免費試用服務。創始人兼執行長 David Holz 最初在 Discord 裡說,停用是因為極大的需求以及試用被濫用。
Holz 隨後向 The Verge 澄清,外界以為他們是因為深度偽造圖片惹禍而關門,這其實是個誤會。
真正的原因是大量使用者批次註冊一次性臨時賬號,瘋狂薅免費額度。Holz 提到,罪魁禍首大機率是中國的一段爆款教程影片,恰好當時團隊正經歷臨時性的 GPU 算力短缺,兩件事撞在一起,直接把付費使用者的正常服務給拖垮了。
而且,免費試用賬號一直只能用舊版模型,根本摸不到生成效果最逼真的 Midjourney v5。網上瘋傳的那些假照片,全是用 v5 跑出來的,所以關停試用其實防不住那些照片的傳播。
逼真度上去了,審查還在打補丁
Midjourney v5 確實把畫質拉到了一個新高度。以前 AI 畫人總是漏出破綻,比如手指扭曲、光影不對,現在的 v5 不僅解決了手部畸形難題,連衣服布料的褶皺和光澤都幾乎可以亂真,而且畫名人尤其拿手。
除了特朗普和教皇,最近在社交平臺上瘋傳的還有法國總統馬克龍穿行在巴黎抗議人群中,以及馬斯克和議員 AOC 牽手等虛假畫面。
但 Midjourney 的稽核機制一直比較鬆散。它的內容尺度比 OpenAI 的 DALL-E 寬鬆,又比完全開源的 Stable Diffusion 嚴格。面對輿論壓力,平臺採取的做法基本上是頭痛醫頭。
比如在調查記者 Eliot Higgins 用 Midjourney 生成特朗普被捕圖片並在社交媒體爆火後,Midjourney 封禁了 Higgins 的賬號,並在後臺悄悄把 arrested 設為違禁詞。
不過這種關鍵詞遮蔽很容易繞過。測試顯示,雖然輸入「特朗普被捕」會被攔截,但只要換成「特朗普戴著手銬被警察包圍」,系統依然能生成一模一樣的畫面。
目前團隊還在想辦法恢復免費試用。他們之前試過要求繫結有效郵箱,但完全擋不住羊毛黨,現在只能推倒重來,尋找新的防刷機制。
為什麼重要
對於普通使用者和想嚐鮮的新手來說,Midjourney 這次關停試用意味著零門檻白嫖生圖的時代結束了。如果你現在想用它,唯一的途徑就是掏錢買訂閱,這無疑把很多隻是想玩玩看的人擋在了門外。
我們認為,這次風波暴露了生成式 AI 在當下的兩個真實軟肋:一個是算力成本,另一個是稽核策略。
首先是算力脆弱性。像 Midjourney 這樣幾十人規模的團隊,靠著 Discord 伺服器運轉,一旦遭遇跨區域的爆發式流量或薅羊毛大軍,伺服器和 GPU 資源立刻吃緊,甚至威脅到付費核心資產。純靠軟體層面的郵箱驗證根本防不住指令碼,如何在開放試用和保護算力之間做平衡,是所有中小 AI 團隊的必修課。
其次是它的稽核顯得手足無措。面對足以左右輿論的逼真名人偽造圖,Midjourney 目前的封禁關鍵詞做法看起來更像在掩耳盜鈴,不僅容易被換皮提示詞繞過,也沒能給出更系統性的內容溯源或水印機制。隨著技術越來越逼真,行業遲早會被迫面對更嚴苛的監管壓力,而 Midjourney 的應對方式顯然還沒跟上它模型進化的腳步。
來源 (1)
- theverge.com(在新分頁開啟)原文theverge.com