傳 Meta 砸數百萬美元談明星聲音：朱迪·丹奇等或入駐 Meta AI
據彭博社和《紐約時報》報道，Meta 正斥資數百萬美元與朱迪·丹奇、奧卡菲娜等明星洽談，計劃購買其聲音版權用於 Meta AI 助手。這批語音預計在 9 月的 Connect 大會亮相，並覆蓋 Instagram 及 Ray-Ban 智慧眼鏡等平臺。
AI安全
檢視更新的新聞
Suno 正面回應唱片業訴訟：AI 學習公開音樂絕非侵權
Suno 正式發文回應唱片工業協會 RIAA 的侵權指控，承認抓取了公開網路上的音樂進行訓練，但堅稱「學習不是侵權」。Suno 把模型訓練類比為孩子聽搖滾樂學寫歌，並強調平臺設定了嚴格的防抄襲和防模仿機制。這場交鋒將成為生成式 AI 訓練資料合理使用判例的關鍵一役。
走出 OpenAI 罷免風波：前董事 Helen Toner 在華盛頓轉型為 AI 政策紅人
據彭博社報道，去年參與主導罷免 Sam Altman 的前 OpenAI 董事會成員 Helen Toner，正在華盛頓特區成為備受信任的 AI 政策專家。經歷矽谷宮鬥後，她避開了馬斯克訴訟的傳票糾紛，轉向為監管層提供 AI 治理與安全建議。
OpenAI 承諾向美國 AI 安全研究所提前開放下一代模型測試
週四晚，OpenAI 執行長 Sam Altman 宣佈，正與美國人工智慧安全研究所敲定協議，將在下一款主要生成式模型釋出前開放早期訪問用於安全測試。此舉意在緩解外界對其輕視安全的質疑。不過合作的具體細節尚未公佈。
Google 升級「關於此圖片」：圈選就能查圖源，還能辨別 AI 偽造
Google 將「關於此圖片」功能接入即圈即搜和 Google Lens。使用者長按螢幕圈選圖片或通過鏡頭上傳，即可檢視網路出處、後設資料，並藉助 SynthID 水印識別是否由 AI 生成。功能目前已覆蓋 40 種語言。
Google 開源 Gemma Scope：用 400 多個稀疏自編碼器透視大模型
Google 開源 Gemma Scope，這是一套面向 Gemma 2 2B 與 9B 的稀疏自編碼器工具包，包含 400 多個自編碼器和超 3000 萬個學到的特徵。它相當於給大模型裝上顯微鏡，幫助研究人員拆解模型內部運作，應對幻覺、欺騙等安全風險。
OpenAI 表態支援美參議院三項法案：力挺 AI 安全研究所轉正
OpenAI 公開支援美國參議院的三項 AI 法案，其中包括正式授權美國人工智慧安全研究所制定模型標準，以及設立 AI 獎學金和教育資源。這一舉動被視為在監管收緊前夕提前爭取政策話語權。
白宮表態：暫不限制開源 AI 模型
美國商務部發布報告稱，目前沒有必要對公開權重的高效能 AI 模型施加限制。NTIA 認為現有證據不足以支撐監管收緊，開放系統能帶來實實在在的創新紅利。不過政府也會持續監測風險，一旦威脅加劇將隨時出手干預。
馬斯克轉發哈里斯 AI 換聲影片：未注惡搞標籤，涉嫌違規
週五，馬斯克在 X 上轉發了一段偽造副總統哈里斯聲音的 AI 競選惡搞影片，並配文「太讚了」。因未保留原推文中的「惡搞」免責標識，該帖被指違反 X 自身禁止誤導性合成媒體的平臺政策，引發多名官員譴責。
巴黎奧運會如何用 AI：從輔助裁判到過濾社交網暴
據 Inverse 報道，2024 巴黎奧運會成為國際奧委會公佈「奧林匹克 AI 議程」後的首屆賽事。AI 不僅用於挖掘運動員潛能、通過動作影片糾錯和防傷，還被引入體操等專案的裁判輔助，並計劃自動過濾社交媒體上的辱罵言論。
X 預設拿使用者帖子喂 Grok：英國和愛爾蘭監管機構介入調查
X 被曝通過預設勾選的設定，將使用者的帖子及與 Grok 的互動記錄用於模型訓練。這涉嫌違反 GDPR 禁止默認同意的規定，英國 ICO 與愛爾蘭 DPC 已介入問詢。目前使用者想關閉該功能，還只能去網頁端設定。
蘋果簽署白宮 AI 安全承諾：趕在 Apple Intelligence 上線前主動表態
Apple 宣佈簽署白宮關於 AI 安全與信任的自願承諾，加入 OpenAI、Google 等 15 家科技公司的行列。承諾要求在模型釋出前進行紅隊安全測試、保護模型權重並給 AI 內容打水印。Apple Intelligence 即將推向全球 20 億使用者，這被視為蘋果提前向監管示好。
Anthropic 爬蟲狂掃 iFixit 近百萬次：無視禁止條款引眾怒
iFixit 執行長公開指責 Anthropic 的爬蟲 ClaudeBot 在 24 小時內狂刷其網站近百萬次，涉嫌違反禁止抓取用於 AI 訓練的服務條款。Anthropic 回應稱爬蟲只識別 robots.txt 協議。這凸顯了網站條款無法約束爬蟲、只能靠粗暴斷聯的尷尬現狀。
Runway 遭曝秘密抓取 YouTube 影片與盜版電影訓練 Gen-3
據 404 Media 曝光的一份內部表格，Runway 秘密抓取了成千上萬個 YouTube 創作者影片、知名品牌內容及盜版電影來訓練其主力模型 Gen-3。此前獲 Google 和輝達投資的 Runway 面對資料提問時一直含糊其辭，這次洩露讓 AI 影片的資料版權爭議再次激化。
Reddit 封鎖搜尋引擎與 AI 爬蟲：不交錢不給抓，目前僅 Google 倖免
Reddit 被曝開始封鎖未付費搜尋引擎和 AI 爬蟲抓取最新內容。目前主流引擎中只有簽下 6000 萬美元 AI 訓練協議的 Google 能展示最新帖子，Bing 等均遭遮蔽。Reddit 稱未達成協議的廠商不願就資料用於 AI 做出合規承諾。
OpenAI 詳解 RBR 技術：用規則給模型打分，少靠人工還防誤拒
OpenAI 介紹基於規則獎勵（RBR）的模型安全對齊方案。它用明確的規則邏輯替代大量重複的人工標註，由評判模型打分並融入強化學習。這不僅大幅降低訓練成本，還能減少誤拒正常請求的情況，讓安全策略更新更靈活。
美議員致信 OpenAI：要求新模型釋出前先交政府審查
7 月，美國多位參議院民主黨議員致信 OpenAI，要求其承諾將下一個基礎模型在釋出前交由美國政府機構測試與評估，並說明是否保證將 20% 算力投入安全研究。此前有舉報人指控 OpenAI 為搶發 GPT-4 Omni 放寬安全標準，美國官方對 AI 巨頭的監管明顯收緊。
加州推進嚴苛 AI 安全法案：強制自測「災難風險」引矽谷巨頭反彈
7 月，加州立法機構推進由州參議員 Scott Wiener 起草的 AI 安全法案，要求達到算力門檻的大公司必須在釋出前自測模型是否具備生化武器、癱瘓電網等「災難性」風險。Google、Meta 等巨頭公開致信抗議，稱條款在技術上不可行且會嚇跑開發者。在聯邦監管可能生變的預期下，加州成了 AI 監管博弈的主戰場。
Figma 解釋 AI 抄襲蘋果設計：趕工塞入的素材未嚴格稽核
Figma 發文解釋生成式 AI 工具 Make Designs 抄襲蘋果天氣應用的原因。官方稱該功能結合了 GPT-4o 與定製設計系統，但在 Config 大會前一週臨時追加了元件與示例，未嚴格稽核便塞入上下文，導致特定提示詞下直接生成了雷同介面。目前該功能已下線整改。
AI 基準測試失靈調查：MMLU 等主流跑分很難測出真實水平
The Markup 調查指出，Google 與 Meta 等巨頭熱衷引用的 MMLU 等跑分測試存在嚴重缺陷。許多測試題庫年頭過久或源自網路抓取，無法反映真實推理與防幻覺能力，反而給公眾造成模型具備專家級能力的錯覺。