調查報道中心起訴 OpenAI 與微軟：指控抓取新聞侵犯版權
週四，製作《Mother Jones》的調查報道中心（CIR）宣佈起訴 OpenAI 與微軟。CIR 指控兩家公司未經許可且未付報酬，直接抓取其報道訓練 AI 侵犯版權並剝奪其收入。這是繼《紐約時報》等媒體後，兩家科技巨頭面臨的又一起版權訴訟。
AI安全
檢視更新的新聞
OpenAI 推出 CriticGPT：用 GPT-4 給自己挑錯，準確率提升 60%
OpenAI 推出基於 GPT-4 訓練的模型 CriticGPT，專門輔助人類標註員找出 ChatGPT 程式碼中的隱蔽錯誤。測試顯示，人機配合找錯的表現比單人高出 60%。OpenAI 正將該類模型整合進 RLHF 流程，以解決模型日益聰明後的對齊難題。
Rabbit R1 曝嚴重安全漏洞：硬編碼 API 導致所有歷史回覆可被調閱
逆向團隊 Rabbitude 披露，Rabbit 官方程式碼中硬編碼了多個關鍵 API 金鑰，任何人都能借此調取 R1 生成過的所有歷史回覆與個人資訊，甚至能篡改回答或使裝置變磚。Rabbit 官方稱 6 月 25 日才得知涉嫌洩露並已介入調查，目前未發現客戶資料外洩。
唱片業起訴 Suno 與 Udio：未經許可抓歌訓練算不算「合理使用」？
週一，美國唱片業協會（RIAA）代表多家主流唱片公司正式起訴 AI 音樂平臺 Suno 與 Udio，指控其非法抓取海量版權音樂訓練模型，索賠單件作品最高 15 萬美元。訴訟核心直指生成式 AI 是否能以「合理使用」為由免費使用受保護資料，這可能重塑整個 AI 音樂甚至內容行業的底層規則。
Anthropic 進軍政府市場：Claude 3 上架 AWS 政府雲與情報專區
Anthropic 宣佈將 Claude 3 Haiku 和 Sonnet 引入 AWS GovCloud 及美國情報界專用市場。官方還針對政府放寬了使用政策，允許用於打擊人口販賣和軍事預警等情報分析，但武器研發與網攻仍被明令禁止。
三大唱片巨頭起訴 Suno 與 Udio：指控侵權訓練音樂 AI 索賠數十億
Universal Music、Warner Music 與 Sony Music 聯合起訴 Suno 和 Udio，指控其非法使用有版權的音樂錄音訓練 AI 模型。唱片業協會對每起侵權主張最高 15 萬美元賠償，總額可達數十億美元。版權戰正式燒到了 AI 音樂領域，最終可能逼出天價授權協議。
監管不確定性作祟：Apple 年內暫不在歐盟推出 Apple Intelligence
Apple 宣佈因歐盟《數字市場法》（DMA）的互操作性要求與監管不確定性，年內不會向歐盟使用者推出 Apple Intelligence、iPhone 映象及 SharePlay 螢幕共享。Apple 擔心開放互操作會損害產品完整性並危及使用者隱私安全，目前正與歐盟委員會溝通尋找方案。
TollBit 曝光行業亂象：多家 AI 公司繞過 robots.txt 強行抓取網站
據路透社報道，內容授權初創公司 TollBit 發現，多家 AI 公司正公然無視通行的 robots.txt 協議，未經許可強行抓取出版商內容用於訓練與生成摘要。此前 Forbes 也曾指控 Perplexity 抄襲其調查報道。這意味著網站長期依賴的防爬規則正形同虛設。
OpenAI 公佈網路安全資助成果：收到超 600 份申請，擴充套件贈送企業版
OpenAI 公佈網路安全資助計劃一年來的成果。該計劃已收到超 600 份申請，重點支援了防提示詞注入、程式碼漏洞挖掘和自動化紅隊等專案。為了幫防禦方更好地用上 AI，OpenAI 還將把免費賬號資助從 ChatGPT Plus 擴充套件至 Team 和 Enterprise 版本。
Apple Intelligence 將給 AI 圖片標後設資料：連消除雜物都留痕
據 CNET 報道，蘋果高管透露 Apple Intelligence 會在生成或修改的圖片後設資料中打上標記。哪怕只是消除背景雜物等微調，也會標明被修改過；蘋果同時明確無意涉足逼真人物或場景生成。面對假圖氾濫，蘋果選擇從底層後設資料開始設防。
OpenAI 前首席科學家另起爐灶：Ilya 創辦 SSI，只做安全超級智慧
OpenAI 聯合創始人兼前首席科學家 Ilya Sutskever 宣佈成立新公司 Safe Superintelligence Inc.（SSI）。該團隊表示只有一個目標和一個產品，即安全強大的超級智慧，且商業模式將完全免受短期商業化週期的干擾。
Meta FAIR 開源五款新模型：圖文交織、可控音樂與極速音訊水印
Meta FAIR 團隊開源釋出了五項 AI 研究成果。其中涵蓋能混合輸入輸出圖文的 Chameleon、支援節拍與和絃控制的音樂模型 JASCO，以及檢測速度提升達 485 倍的 AI 語音水印技術 AudioSeal 等。
美政府聯手微軟 OpenAI：首次演習關鍵 AI 系統遭駭客攻擊
上週，美國網路安全和基礎設施安全域性聯合微軟、OpenAI 及輝達等科技巨頭，開展了首個針對關鍵 AI 系統的網路攻擊桌面推演。50 多位專家模擬了 AI 攻防場景並演練應急溝通，相關經驗將用於編寫今年底釋出的 AI 安全應急指南。
OpenAI 任命前 NSA 局長進董事會，斯諾登炮轟「蓄意背叛」
OpenAI 宣佈任命前美國國家安全域性局長 Paul Nakasone 加入董事會安全與安保委員會。OpenAI 稱看重其網路安全經驗以保護 AI 超級計算機，但洩密者斯諾登公開發聲呼籲「切勿信任 OpenAI」，指責此舉是對全球人權的蓄意背叛。
Meta 暫停在歐洲上線 Meta AI：因愛爾蘭監管施壓，稱不用本地資料體驗會縮水
Meta 宣佈暫停在歐洲推出 Meta AI 助手。此前愛爾蘭資料保護委員會對其抓取公開資料訓練模型提出異議。Meta 稱這一決定讓人失望，若不納入口碑與文化等本地資料，模型只能提供「二流體驗」；隱私倡導機構 Noyb 則反駁稱 Meta 只是不願徵求使用者明確同意。
OpenAI 董事會擴容：美軍退役上將 Nakasone 加入安全委員會
OpenAI 宣佈美國退役陸軍上將 Paul M. Nakasone 加入董事會及安全與保障委員會。作為曾領導美國網路司令部的頂尖網路安全專家，他的加入旨在強化大模型訓練叢集及權重資料的防禦能力，併為公司關鍵安全決策提供建議。
攝影師拿真照片參加 AI 影像大賽獲獎：騙過評委後被取消資格
據報道，攝影師 Miles Astray 用一張真實的火烈鳥照片參加 1839 攝影獎的 AI 組別，一舉拿下季軍與大眾票選獎，專業評委無一識破。隨後主辦方以違規為由取消其資格。攝影師直言，這次行動是為了證明真實創作仍能勝過機器。
Meta AI 開始總結 Facebook 評論區：網友吵架與奇葩吐槽全被概括
The Verge 報道 Meta 正測試在 Facebook 評論區由 Meta AI 自動生成言論摘要。AI 會把網友的離奇言論、玩笑與爭論一併濃縮成概述。雖然這類總結常讓人啼笑皆非且資訊量有限，但 Meta 直接拿使用者公開內容餵給 AI 的做法，再次引發了隱私爭議。
限制諷刺與論壇內容：Google 緊急修補 AI Overviews 翻車漏洞
Google 發文回應 AI Overviews 近期的離奇搜尋錯誤，並推出十多項技術改進。官方解釋稱錯誤主要源於對諷刺梗和論壇發言的誤讀，目前已限制將幽默內容與使用者生成內容作為回答依據，並收緊了觸發門檻。
加州州長警告：過度監管 AI 會讓本地失去科技主導權
加州州長 Gavin Newsom 在 GenAI 峰會上表示，全球前 50 大 AI 公司中有 35 家在加州，過度嚴格的監管可能會扼殺創新，甚至把領先優勢拱手讓給其他州或國家。他強調監管必須適度，不能盲目跟風立規。