Meta 聯手 Inria 推出 Stable Signature:把不可見水印直接刻進 AI 模型
Meta FAIR 聯手 Inria 開源了影像水印技術 Stable Signature。它打破了生成後再打水印的舊做法,直接在模型解碼器中植入不可見水印,即便裁剪、壓縮或用 ControlNet 微調也難以抹除。最關鍵的是,它將誤報率壓低至極低水平,能精準溯源 AI 假圖。
Meta FAIR 聯手 Inria 開源了影像水印技術 Stable Signature。它打破了生成後再打水印的舊做法,直接在模型解碼器中植入不可見水印,即便裁剪、壓縮或用 ControlNet 微調也難以抹除。最關鍵的是,它將誤報率壓低至極低水平,能精準溯源 AI 假圖。
據 Gizmodo 報道,Meta 新推出的 Emu AI 貼紙功能出現明顯過濾漏洞。系統雖遮蔽了直接違規詞,但只要換成相近表述,就能輕易生成持槍兒童、裸體卡通和極端爭議影像。面對平臺數十億次的使用場景,這套護欄顯然還沒準備好。
分析文章指出 AI 正在加速重塑保險核保。針對人工核保耗時長、流程繁瑣且容易定價失誤的痛點,AI 與機器學習能挖掘文本、語音等非結構化資料,大幅減少人為差錯並提升風險評估精度。保險機構藉此不僅能加快審批,還能防範網路欺詐,將人力釋放到更具價值的客戶服務中。
馬里蘭大學研究團隊釋出預印本論文,測試並破解了目前市面上所有的 AI 影像水印方法。攻擊者不僅能輕易洗掉肉眼不可見的隱形水印,還能給人類拍攝的照片強加水印造成誤報。這意味著科技巨頭押注的水印防偽,遠沒有想像中可靠。
Google 推出控制工具 Google-Extended。網站釋出者只需在 robots.txt 中加上該標識,就能禁止 Google 用其內容訓練 Bard 和 Vertex AI 等模型,同時不影響正常搜尋收錄。這意味著站長不必再在「被抓去訓 AI」和「丟掉搜尋流量」之間艱難二選一。
Google 宣佈將生成式 AI 搜尋體驗(SGE)開放給美國 13 至 17 歲青少年。針對未成年人,系統加裝了防欺凌與違禁內容的護欄,並新增「關於此結果」提示。此外,模型也更新了對虛假或惡意提問的甄別能力,避免順著錯誤前提胡說八道。
Meta 在 Connect 大會上宣佈為 28 個擁有特定個性的 AI 角色開通 Facebook 和 Instagram 社交主頁。部分角色由知名公眾人物形象扮演,生成圖片均帶有專屬水印。目前美國測試版使用者可直接通過 Instagram 或 Messenger 發私信與它們互動。
美國編劇工會(WGA)正式結束近五個月的罷工。新達成的三年協議嚴格限制生成式 AI:AI 生成內容不能算作源素材,製片廠不得強迫編劇使用 ChatGPT 等工具,也不能用 AI 代替編寫或重寫劇本。這是好萊塢首次為生成式 AI 劃出明確護欄。
SEO 顧問發現 Google 搜尋已開始抓取並索引使用者生成的 Bard 共享對話連結,導致私人對話可能直接出現在公開搜尋結果中。Google 回應稱這並非設計意圖,正緊急修復遮蔽,並澄清該問題未波及 Gmail 和 Google Docs 等新整合功能。
好萊塢編劇工會與製片廠達成三年暫定協議,結束 148 天的罷工。新協議明確規定 AI 不能用於撰寫或重寫劇本,AI 生成內容不得作為原創素材,製片方也不能強迫編劇使用 ChatGPT 等工具。最值得關注的是,這是好萊塢首次為生成式 AI 劃定嚴格的使用紅線。
Getty Images 聯手 Nvidia 推出生圖工具 Generative AI by Getty Images。該工具基於 Nvidia Edify 模型,完全使用 Getty 授權相簿訓練,並向商業使用者承諾提供完整的版權賠償保障。它禁止生成現實名人及特定藝術家風格,試圖在 AI 版權爭議中走一條合規商業路線。
UPS 旗下 UPS Capital 公佈基於 AI 的 DeliveryDefense 服務。它基於數十億條配送資料為地址打出 1 到 1000 分的置信度評分,幫助商家在發往高風險地址時改用自提或加保。該服務將於 10 月 18 日推出中小企業網頁版,月費 99 美元起。
美國作家工會攜喬治·R·R·馬丁、約翰·格里沙姆等 17 位知名作家起訴 OpenAI。訴狀指控其未經許可全盤抄襲原著訓練 LLM,能低成本生成衍生文本並危及作家生計,要求按集體訴訟處理。OpenAI 則回應稱正與各方溝通尋求合作。
Roblox 宣佈收購芬蘭語音技術初創公司 Speechly。Speechly 主打即時語音稽核與轉錄技術,曾獲 YC 投資。此舉旨在幫 Roblox 應對平臺拓展語音聊天及動捕通話時面臨的安全挑戰,在 3D 沉浸場景中即時過濾違規言論。
TikTok 推出內容標籤工具,讓創作者標註由 AI 生成或深度編輯的影片。按最新規定,只要包含逼真的 AI 影像、音訊或影片,創作者就必須打上標籤或寫明,平臺官方濾鏡也將統一加上「AI」字樣,後續還將上線自動檢測演算法。
OpenAI 宣佈成立紅隊網路,面向全球招募外部專家參與模型安全與對抗測試。成員將按專案獲得報酬,每年投入可低至 5 到 10 小時。這意味著 OpenAI 正在將過去模型釋出前的一次性審查,轉變為持續、常態化的跨領域協同防禦。
微軟 AI 研究部門在 GitHub 開源影像識別模型時,因 Azure 共享令牌許可權配置錯誤,意外暴露了 38TB 內部資料。洩露內容包含私鑰、員工電腦備份及 3 萬多條內部 Teams 訊息。安全機構 Wiz 發現後微軟已吊銷令牌並排查完畢。
AI 技術公司 Metaphysic 推出 Metaphysic Pro 系統,幫演員管理面部、聲音等資料授權。湯姆·漢克斯、安妮·海瑟薇等已成早期使用者。在好萊塢對 AI 侵權重重擔憂下,它試圖為明星建立數字分身的資料控制權與付費渠道。
Meta CEO 扎克伯格在美國參院 AI 論壇發言,指出當前 AI 最關鍵的問題是安全與訪問許可權。他為 Llama 2 的開源路線辯護,認為開源更安全且能確立技術標準,但也承諾若未來接近超智慧水平將重新評估策略。
據報道,邁克爾·夏邦、黃哲倫等知名作家在週五對 OpenAI 發起集體訴訟,指控其未經許可使用版權作品訓練 GPT 模型牟利。起訴書稱 ChatGPT 能精準總結與分析其作品,證明其受過非法訓練,要求法院制止侵權並賠償損失。