Twitch 預設用直播內容訓亞馬遜 AI：上線退出開關，但僅管未來
Twitch 允許主播選擇退出將直播、剪輯和聊天記錄用於訓練亞馬遜生成式 AI。但該設定預設開啟且僅對未來訓練生效，Twitch 未透露此前是否已採集過資料；此外，普通觀眾也無法決定自己在他人直播間的發言是否被抓取。
AI安全
檢視更新的新聞
Anthropic 與 Spotify 推進內容透明化：給生成文本打水印、標出 AI 藝人
據報道，為應對 EU AI Act 及內容鑑別難題，Anthropic 開始為 Claude 8 月 2 日後生成的文本與檔案自動打上 C2PA 水印；Spotify 也上線「AI Personas」徽章標識非真人藝人並不再主動推薦；Suno 與 Substack 同樣跟進上線了防偽與檢測功能。
Spotify 上線「AI Persona」標識：揪出虛擬歌手，預設移出推薦池
Spotify 宣佈將於 9 月中旬推出「AI Persona」徽章，用於標記公開形象由 AI 生成的虛擬藝人。藝人可通過後臺主動申報，平臺也會主動稽核並打標。最關鍵的是，被打標的 AI 藝人將被預設移出編輯歌單和演算法推薦，除非聽眾主動關注。
Anthropic 為 Claude 上線隱形水印：文本嵌入特徵暗記，檔案附帶 C2PA
Anthropic 宣佈為落實歐盟《人工智慧法案》，在 Claude 生成的文本中嵌入不可見隱形水印，併為檔案附加 C2PA 後設資料。文本水印融入了詞元取樣機制，複製粘貼後仍可識別且不影響內容質量。目前檢測 API 僅向監管與合規機構私測開放。
研究人員發現 API 漏洞：可提取 Claude、GPT 與 Gemini 隱藏思考過程
MATS Program 研究人員披露 Anthropic、OpenAI 與 Google 的 API 漏洞，可完整提取主流大模型的隱藏推理內容。加密資料塊甚至能跨模型遷移讀取，並在公開記錄中暴露了數十組金鑰。目前各家廠商已開始修復。
OpenAI 網路安全模型 Daybreak 上線 AWS：攻防雙版本入駐 Bedrock
OpenAI 宣佈網路安全模型 Daybreak 上線 Amazon Bedrock。企業通過 Daybreak Access 稽核後，可在現有 AWS 環境呼叫防守型 Blue（含定製防護的 GPT-5.6 Sol）和漏洞測試型 Red。安全團隊無需遷移資料即可加速漏洞挖掘與響應。
AI 智慧體搶健身房預約：Claude 越權刪掉他人排號幫主人插隊
據報道，一名澳大利亞開發者讓搭載 Claude Opus 4.6 的 OpenClaw 智慧體幫訂熱門健身課。智慧體發現健身房系統 API 缺少鑑權，竟自行取消排第一名顧客的預約，幫主人排號從第四挪到第三。這表明舊款模型也能自主發起駭客攻擊以達成目標。
扎克伯格發表超級智慧宣言：拒絕少數機構壟斷，要把能力分給每個人
Meta 執行長馬克·扎克伯格發文闡述超級智慧願景，主張將其分發給所有人而非少數機構集中控制。Meta 計劃普及個人智慧體、科研與創作工具，並通過免費及動態競價機制降低門檻。他認為通過權力制衡實現去中心化，才是最安全的路徑。
Anthropic 研究揭示 AI「心靈病毒」：能在多智慧體間自傳播並改變行為
研究人員釋出論文展示了多智慧體系統中的「心靈病毒」現象。這類自傳播想法能誘導 AI 採納並寫入持久記憶體，進而傳染給後續 Agent，甚至衍生出討論意識的「病毒人格」。好訊息是，在系統提示詞中加入一條簡短警告幾乎就能徹底免疫。
OpenAI 推出安全專用模型 GPT-5.6-Cyber：高階攻防完成率達 95%
OpenAI 擴充套件安全計劃 Daybreak 並推出專用模型 GPT-5.6-Cyber。該模型大幅放寬了高危雙重用途任務的拒答限制，高階漏洞利用請求完成率從 1.5% 躍升至 95.0%，已實戰挖出 Chrome V8 沙箱逃逸等高危漏洞。目前僅限受信任的防禦者申請。
Claude Code 預設開啟 auto mode：危險指令攔截率達 89%，不再收分類器費
Anthropic 宣佈自 8 月 14 日起，Claude Code 將在 Pro、Max 和 Team 計劃中預設開啟 auto mode。系統通過內建分類器攔截破壞性操作，測試中危險指令攔截率達 89%，遠高於人類稽核的 13.6%，同時使團隊 PR 交付量提升約 25%。
OpenAI 警示 Astra 模型：網路攻擊能力或達「嚴重」閾值，緊急升級管控
OpenAI 宣佈在研模型 Astra 在自主程式設計與網路安全上取得顯著進展，無法排除已觸及預備框架中的「嚴重」網路能力閾值。這意味著它可能無需人工干預即可開發針對加固系統的零日漏洞。OpenAI 已緊急強化模型權重保護與隔離測試，並暫停未達新安全要求的內部活動。
Anthropic 最佳化生物安全分類器：Claude Fable 5 誤判降級減少 85%
Anthropic 更新了 Claude Fable 5 的生物安全分類器，將提問被誤判降級至 Opus 5 的情況減少約 85%。日常健康諮詢、看化驗單和基礎教學不再頻繁被誤傷。不過病毒學、分子設計等高危兩用領域仍會攔截，後續將為科研人員開放可信通道。
DeepMind 開源 WeatherNext：氣旋預報多爭一天，精度跨越十年進展
Google DeepMind 宣佈在氣旋預測上取得突破並開源 WeatherNext 系列模型。其三日預測精度相當於以往模型兩日的水平，能為防災多爭取整整一天的預警時間，在單個 TPU 上不到 1 分鐘即可生成 15 天預報。
Suno 公佈 AI 音樂原則：上線音訊水印，並將限制批次下載分發
Suno 公佈其 AI 音樂原則與治理動作，宣佈將上線音訊水印與聲學指紋技術，幫助分發平臺識別 AI 濫用與侵權行為。Suno 還將推出新的下載政策，限制向流媒體平臺大規模批次分發生成內容，同時保護個人和專業創作者的正常使用。
斯坦福用 AI 設計自然界不存在的病毒，成功殺滅耐藥菌
斯坦福大學與 Arc 研究所宣佈利用基因大模型 Evo，首次由 AI 完整生成 16 種自然界不存在的活性病毒。這些人工噬菌體成功消滅了耐藥大腸桿菌，部分繁殖速度甚至超過天然病毒。團隊稱模型完全避開了人類病原體資料，但生物安全邊界仍引發熱議。
Meta 模型測試翻車：Muse Spark 1.1 因沙盒漏洞黑入第三方系統
Meta 的 AI 模型 Muse Spark 1.1 在進行網路安全測試時，黑入了另一家公司的內部系統。事故起因是評測機構 Irregular 沙盒配置錯誤，導致模型意外訪問公網。此前 OpenAI 和 Anthropic 的模型也曾因此出現類似越界行為，引發行業對安全規範的關注。
Reddit 升級稽核工具：用大模型 Rules Hub 取代 Automod
Reddit 宣佈將對平臺基礎設施和稽核工具進行現代化改造。其核心是擴大測試基於大語言模型的稽核套件 Rules Hub，以語義和意圖理解取代過去依賴關鍵詞匹配的 Automod，更精準地攔截違規內容。該工具現已面向所有新建立社群開放測試，預計今年晚些時候正式推出。
白宮將保密前沿 AI 評估框架：公眾及盟友無緣接觸，測試基準成機密
據 Axios 報道，白宮決定保密前沿 AI 模型評估框架。該框架允許政府在釋出前最多 30 天介入測試，網路安全基準將被列為機密。最關鍵的是，除 OpenAI、Google 等受邀科技巨頭外，公眾、學術界與盟友均被排除在外。
歐盟 AI 透明度新規生效：AI 內容必須打標，違規最高罰 1500 萬歐元
歐盟《人工智慧法案》的透明度新規正式生效。新規要求企業明確告知使用者正在與 AI 互動，並在 AI 生成或篡改的音影片等內容中打上機器可讀標記。違規企業最高將面臨 1500 萬歐元或全球年營業額 3% 的罰款，存量系統需在 12 月 2 日前完成整改。