Meta AI 貼紙翻車:過濾網形同虛設,輕鬆生成持槍兒童與爭議影像
據 Gizmodo 報道,Meta 新推出的 Emu AI 貼紙功能出現明顯過濾漏洞。系統雖遮蔽了直接違規詞,但只要換成相近表述,就能輕易生成持槍兒童、裸體卡通和極端爭議影像。面對平臺數十億次的使用場景,這套護欄顯然還沒準備好。
據 Gizmodo 報道,Meta 新推出的 Emu AI 貼紙功能出現明顯過濾漏洞。系統雖遮蔽了直接違規詞,但只要換成相近表述,就能輕易生成持槍兒童、裸體卡通和極端爭議影像。面對平臺數十億次的使用場景,這套護欄顯然還沒準備好。
Getty Images 聯手 Nvidia 推出生圖工具 Generative AI by Getty Images。該工具基於 Nvidia Edify 模型,完全使用 Getty 授權相簿訓練,並向商業使用者承諾提供完整的版權賠償保障。它禁止生成現實名人及特定藝術家風格,試圖在 AI 版權爭議中走一條合規商業路線。
YouTube 釋出一系列創作者工具,其中實驗功能 Dream Screen 允許使用者輸入文字提示詞,直接為 Shorts 生成 AI 影片或圖片背景。官方還推出了免費移動剪輯應用 YouTube Create,支援自動字幕與音樂卡點。Dream Screen 將在年內向部分創作者開放測試。
OpenAI 推出文生圖模型 DALL·E 3,原生整合在 ChatGPT 中。它大幅提升了對複雜細節的理解力,使用者無需專門的提示詞技巧即可精準出圖,並限制生成公眾人物與在世藝術家風格。生成圖片完全歸使用者所有,可直接商用。
Stability AI 推出首款音樂與音效生成工具 Stable Audio。它基於潛在擴散架構,使用者輸入文本提示詞和指定時長即可生成 44.1 kHz 音訊。免費版支援最長 45 秒片段,Pro 訂閱可生成 90 秒且允許商用,訓練資料來自版權曲庫 AudioSparx。
Hugging Face 宣佈文生圖模型 Würstchen 正式整合至 Diffusers 庫。它用創新的兩階段架構實現了 42 倍影像空間壓縮,生成速度遠快於 SDXL 且佔用極少視訊記憶體,訓練成本相比 SD 1.4 直降 16 倍。這意味著沒有頂級顯示卡的開發者也能低成本玩轉高畫質生圖。
Adobe 宣佈向作品被用於訓練 Firefly 的 Stock 貢獻者發放年度獎金。獎金根據入選作品數量以及過去 12 個月的授權次數加權計算。此外,符合稽核規範的 Firefly 生成圖片也正式獲准上架至 Adobe Stock 銷售。
炮製 AI Drake 爆款的匿名創作者 Ghostwriter 釋出新歌,用 AI 仿製歌手聲音,並把此前作品送選格萊美。錄音學院確認詞曲由人類創作因此符合參評資格,但受版權下架影響卡在發行門檻。AI 仿聲與傳統唱片業的博弈正被推上風口浪尖。
Ideogram 宣佈文生圖模型 Ideogram 0.1 正式免費向所有人開放。該模型主打攻克現有工具的缺陷,能在圖片中直接渲染連貫且美觀的文字,支援字型排版與多種風格標籤。最值得關注的是,它解決了 AI 生成文字模糊錯亂的通病。
Stability AI 宣佈與 NVIDIA 合作,通過 TensorRT 深度最佳化 SDXL 並開放 ONNX 權重。在 H100 GPU 上模型效能翻倍,高畫質圖生成僅需 1.47 秒,延遲降低 41%、吞吐量提升 70%。生圖效率大幅提高,能直接降低創作者與開發者的部署成本。
據 TechCrunch 報道,Snapchat 正在開發名為「Dreams」的生成式 AI 功能。使用者上傳清晰自拍後,系統能將自己和好友合成到奇幻場景中。程式碼中還出現了「Dream Packs」付費包痕跡,目前 Snapchat 暫未正式回應上線時間。
Runway 在其網站和 iOS App 上線「Watch」功能,供使用者分享與瀏覽使用 Runway 工具生成的長影片作品。面對好萊塢因擔憂 AI 搶飯碗而爆發的罷工,其 CEO 表示 AI 不是要替代一切而是增強創作,上線該功能正是為了展示創作者的實際成果。
Shutterstock 宣佈藉助 NVIDIA Picasso 雲服務開發 3D 場景背景生成功能。創作者輸入文本或影像提示詞,就能生成 8K 解析度的 360 度環境貼圖來為 3D 場景打光和做背景,模型訓練全部基於完全授權的資料。說白了,就是把繁瑣的環境佈景交給 AI,讓 3D 藝術家省下時間專心摳主體模型。
AI 社群創作者通過訓練 LoRA 模型,將此前被官方下架的知名畫師 Greg Rutkowski 畫風帶回 Stable Diffusion,並在 Civitai 免費釋出。由於該技術完全開源,即便畫師本人強烈反對,官方也很難阻止風格復刻。
Twitch 上線名為 trumporbiden2024 的 24 小時 AI 辯論直播,AI 驅動的特朗普與拜登不僅能模仿原聲和神態,還互相人身攻擊並嘲弄彈幕觀眾。這場實驗吸引了超 10 萬人觀看,雖然言論頻頻陷入荒誕失控,但也展示了 AI 擬真模仿的高成熟度。
週四,Midjourney 釋出 v5.2 影像模型,新增類似相機鏡頭的「Zoom Out」外擴功能。它能保持中心主體不變,向外補全 1.5 倍或 2 倍的更大場景,還重構了美學系統並加入精簡提示詞的「/shorten」指令。不過該功能目前僅支援平臺內生成的影像,無法匯入外部圖片。