多家新聞機構聯名上書：AI 訓練資料必須透明，用前須獲授權
多家新聞機構與行業組織發表公開信，要求全球立法者規範生成式 AI 的訓練資料。信中呼籲強制公開訓練資料集、使用內容前須獲權利人同意，並允許媒體洽談授權報酬。信件直言，未經許可使用版權內容訓練模型，正在動搖新聞業的核心商業模式。
AI安全
檢視更新的新聞
美國簽署行政令：禁止美資向中國 AI、晶片與量子計算投資
本週，美國總統拜登簽署行政令，限制美國資本向中國 AI、半導體及量子計算領域進行未來投資。限制主要涵蓋私募股權、風險投資和合資專案，重點盯防晶片設計軟體與製造裝置。規定在經歷公眾意見徵集後預計明年正式生效。
《紐約時報》更新服務條款：嚴禁爬蟲抓取內容訓練 AI
據報道《紐約時報》更新了服務條款，明確禁止任何抓取其文本、圖片及後設資料用於訓練機器學習或 AI 系統的行為。未經書面許可使用爬蟲抓取可能面臨罰款或處罰。這意味著出版業正加緊構築版權護城河，不再任由 AI 隨意免費收割資料。
美國國防部成立 Task Force Lima：統籌全軍生成式 AI 與大模型應用
美國國防部宣佈成立生成式 AI 專項工作組 Task Force Lima，由首席數字與人工智慧辦公室（CDAO）牽頭。該團隊將專門評估並整合大語言模型在作戰、情報及行政等領域的落地，同時重點防範資料漏洞與國家安全風險。
超市 AI 菜譜應用翻車：不僅教人做奧利奧炒菜，還生成了致命氯氣
紐西蘭超市 Pak 'n' Save 的 AI 菜譜應用 Savey Meal-bot 翻車。使用者輸入日用品後，AI 竟推薦了會生成致命氯氣的「芳香水」，以及漂白水飲料和毒藥三明治。超市隨後表示正調整安全控制，並提醒菜譜未經人工稽核。
傳 Google 談判環球音樂：計劃授權歌手聲音合法生成 AI 歌曲
據英國《金融時報》報道，Google 正與環球音樂洽談，計劃授權旗下歌手的聲音與旋律開發 AI 音樂生成工具，華納音樂也在接觸中。合作將向版權方分成，藝人可自主選擇加入，意在把深度偽造音樂拉回合法付費軌道。
拜登政府發起 AI 網路挑戰賽：聯手 OpenAI 等巨頭修補漏洞
拜登政府宣佈啟動為期兩年的 AI 網路挑戰賽（AIxCC）。由 DARPA 主導，聯合 Anthropic、Google、微軟和 OpenAI，設立近 2000 萬美元獎金，鼓勵參賽者利用 AI 自動發現並修復關鍵軟體漏洞。競賽成果將直接用於保護電網與交通等關鍵基礎設施。
靠聽打字聲偷密碼：AI 識別鍵盤按鍵準確率超 90%
英國研究團隊訓練出一套 AI 系統，僅憑打字聲音就能識別按下的鍵位。在手機近距離錄音下準確率達 95%，即便通過 Zoom 通話錄音也有 93%。也就是說，開影片會時順手敲密碼已存在洩密風險，研究者建議儘量開啟兩步驗證或用生物識別替代純鍵盤輸入。
OpenAI 上線網路爬蟲 GPTBot：為下一代模型抓取資料，支援網站遮蔽
據報道，OpenAI 正式推出網路爬蟲 GPTBot，用於抓取公開網頁資料以訓練和最佳化未來模型。GPTBot 會自動過濾付費牆、個人隱私資訊及違規內容；網站管理員若不想被抓取，可在伺服器標準檔案中新增 disallow 指令直接遮蔽。
Zoom 更新服務條款：可用部分使用者資料訓練 AI，引發隱私討論
據 CNBC 報道，Zoom 在 7 月 27 日生效的條款中允許使用產品診斷、遙測等「服務生成資料」訓練 AI，且不提供退出選項。針對音影片和聊天內容，Zoom 澄清稱只有在使用者啟用會議摘要等生成式 AI 功能並明確同意後才會呼叫。
Instagram 測試 AI 內容標識：明確標註由 AI 建立或修改
據 The Verge 報道，Instagram 正在測試 AI 生成內容標識功能。曝光截圖顯示，平臺將提示內容由創作者或 Meta 宣告「通過 AI 建立或編輯」。這一動作緊隨 Meta 等向白宮承諾推進負責任 AI 及水印系統之後，旨在遏制虛假資訊擴散。
Kickstarter 出臺新規：用生成式 AI 的眾籌專案必須說清楚細節
Kickstarter 宣佈自 8 月 29 日起，所有使用生成式 AI 的眾籌專案必須披露具體使用細節，標明哪些由 AI 生成、哪些純屬原創。開發 AI 工具的專案還需公開訓練資料來源及授權情況。未如實申報的專案可能被直接暫停。
美國 AI 監管怎麼管：一文拆解華盛頓正在醞釀的規則方案
Vox 發文解讀美國決策層的 AI 監管框架。華盛頓正從新規則、監管機構、資金和人才四方面切入，重點涵蓋版權、強制審計、模型發照乃至算力監控。這意味著前沿大模型的野蠻生長期正快速走向受限合規時代。
OSI 炮轟 Meta：LLaMA 2 根本不算真正的開源
開源促進會（OSI）發文批評 Meta 濫用「開源」概念，指出 LLaMA 2 限制商業規模和特定領域，並不符合開源定義。OSI 認為開源必須賦予開發者完整自主權，不能限制用途，他們計劃在 10 月 17 日拿出「開源 AI」的正式定義草案。
AI 社群用 LoRA「復活」Rutkowski 風格：官方曾主動下架，開源防不住
AI 社群創作者通過訓練 LoRA 模型，將此前被官方下架的知名畫師 Greg Rutkowski 畫風帶回 Stable Diffusion，並在 Civitai 免費釋出。由於該技術完全開源，即便畫師本人強烈反對，官方也很難阻止風格復刻。
多家新聞出版商擬組建聯盟：要求 AI 平臺支付數十億美元版稅
據 Semafor 報道，IAC、The New York Times 等主流出版商正商討組建聯盟，計劃通過訴訟或立法要求 AI 公司為訓練資料支付版稅。科技公司試圖以數千萬美元和解，但出版商要求全行業數十億美元補償。雙方在訓練資料價值上的博弈正在升級。
惡意 AI 工具 FraudGPT 現身暗網：專造釣魚郵件與惡意程式碼
安全公司 Netenrich 披露，暗網和 Telegram 上出現名為 FraudGPT 的無限制惡意 AI 工具。該工具月費 200 美元，專用於生成免殺惡意程式碼與釣魚郵件，已錄得超 3000 筆交易。最值得關注的是，剝離安全防護的 AI 正在大幅降低駭客攻擊的技術門檻。
四大 AI 巨頭聯手：成立前沿模型論壇主抓 AI 安全
Anthropic、Google、Microsoft 與 OpenAI 聯合宣佈成立「前沿模型論壇」。該機構將聚焦前沿 AI 模型的安全研發，推進基準評測並與政策制定者共享風險資訊。巨頭們抱團定規矩，既為自我監管，也意在搶佔行業標準主導權。
準確率僅 26%：OpenAI 悄然下線 AI 文本檢測工具
訊息，OpenAI 上週悄悄關停了自家的 AI 文本檢測工具 AI Classifier。官方更新說明承認其準確率太低——此前測試顯示其僅能識別出 26% 的 AI 文本，還會將 9% 的人類寫作誤判。OpenAI 表示正轉向研究更有效的文本溯源與多媒體防偽技術。
Sam Altman 旗下 Worldcoin 正式上線：靠虹膜掃描分辨真人和 AI
OpenAI CEO Sam Altman 聯合創立的 Worldcoin 正式上線，核心產品是基於虹膜掃描的數字身份 World ID。團隊將在 20 個國家的 35 個城市部署 1500 臺 Orb 掃描球，試圖在 AI 時代從物理層面證明「你是真人」。