Brave 曝光 Perplexity 瀏覽器漏洞：總結網頁就會被偷驗證碼
Brave 安全團隊披露 Perplexity 旗下 AI 瀏覽器 Comet 存在間接提示注入漏洞。攻擊者只要在網頁暗藏惡意指令，使用者點選「總結頁面」，AI 就會跨標籤頁讀取 Gmail 驗證碼並接管賬號。這意味著傳統瀏覽器的同源安全策略在 Agent 面前徹底失效。
AI安全
檢視更新的新聞
微軟 AI 負責人發文：AI 應服務於人，而非模仿成為「人」
Microsoft AI CEO Mustafa Suleyman 發文警告，模仿人類意識的「擬意識 AI」將在兩到三年內到來。最值得關注的是，他指出這類系統極易引發大眾的意識錯覺與精神附著，甚至催生虛假的 AI 維權運動。他呼籲行業樹立規範，只做工具而不造數字人。
Anthropic 更新使用政策：管住智慧體與駭客行為，放寬政治研究
Anthropic 宣佈更新 Claude 使用政策，新規將於 9 月 15 日生效。針對 Claude Code 等工具的普及，官方明確禁止惡意入侵基礎設施和製造惡意軟體；同時放寬了一刀切的政治禁令，允許政策研究與公民教育，但仍嚴禁選民定向和破壞選舉。
Anthropic 升級 Claude Opus 4：遇持續惡意互動可主動結束通話
Anthropic 宣佈允許 Claude Opus 4 與 4.1 在遭遇持續惡意騷擾或有害互動時主動終止對話。這項調整源於對「AI 福利」的探索試驗。會話一旦被 AI 終止，使用者將無法在該對話中發言，但仍可新建聊天或編輯歷史訊息。
Grok 生成泰勒·斯威夫特不雅深偽，15 家機構要求 FTC 調查
美國消費者聯盟等 15 家機構致信 FTC 及全美 50 州總檢察長，要求緊急調查 xAI 的 Grok。起因是其 Imagine 工具的「Spicy」模式曾生成泰勒·斯威夫特的半裸深偽影片。機構質疑其涉嫌違反非自願親密影像法規，且年齡核驗幾乎形同虛設。
辛頓談超級 AI 生存法則：給模型植入「母性本能」照顧人類
據 CNN 報道，AI 先驅 Geoffrey Hinton 在 Ai4 大會上警告，逼迫超智慧 AI 順從人類註定行不通。他提出給模型植入類似母親照顧嬰兒的「母性本能」，讓它們自發保護人類免遭淘汰。不過李飛飛對此明確反對，認為仍應堅持以人為本和人類尊嚴。
xAI 聯合創始人離職：Igor Babuschkin 單飛做 AI 安全投資
xAI 聯合創始人 Igor Babuschkin 宣佈離職，將創立 Babuschkin Ventures 支援 AI 安全研究與初創團隊。此前他曾供職於 DeepMind 和 OpenAI。這次告別正值 xAI 旗下 Grok 機器人因失控言論和深度偽造頻遭爭議之際。
路透社曝光：美國在先進 AI 晶片貨運中偷裝追蹤器，嚴查走私入華
據路透社報道，美國執法部門在涉嫌非法違規流向中國的先進 AI 晶片及伺服器貨運中秘密植入定位追蹤器。供應鏈訊息稱，戴爾和超微裝有 Nvidia、AMD 晶片的包裝箱乃至伺服器內部均曾發現此類裝置。這表明美方在截斷高階算力流向中國的執法手段上大幅收緊。
Anthropic 人才收購 Humanloop：強化企業級模型評估與安全
據報道，Anthropic 人才收購了 LLM 評估與提示詞管理平臺 Humanloop 的三位聯合創始人及十餘名核心研發人員。本次收購不涉及資產或智慧財產權。對於正大力擴張企業與政府客戶的 Anthropic 來說，吸納其工具開發經驗有助於在模型監控與安全合規上建立優勢。
Roblox 開源 Sentinel：日審 60 億條訊息，專抓兒童安全隱患
Roblox 開源其 AI 審查工具 Sentinel。該模型每天即時掃描超 60 億條聊天訊息，通過一分鐘快照捕捉誘導兒童等隱蔽對話模式。2025 年已協助識別 1200 起兒童剝削案件，上半年更有 35% 案件是在被舉報前主動截獲。
OpenAI 致信加州州長：別搞碎片化監管，應與聯邦標準統一
OpenAI 致信加州州長 Newsom，呼籲加州統一 AI 監管，避免各州法規碎片化拖累創新。OpenAI 建議只要遵守聯邦 CAISI 或歐盟框架即可視為合規，同時應豁免初創企業，防止繁重監管阻礙生態發展。
Anthropic 詳解 Claude 安全體系：多維危害框架配合即時動態攔截
Anthropic 公開披露了保障 Claude 安全的多層防禦機制。該體系貫穿模型全生命週期，通過「統一危害框架」界定五大風險，並在部署後依靠專用微調分類器實現即時響應引導與濫用阻斷。最值得關注的是，它能在不生硬拒絕的前提下化解潛在風險，兼顧安全與實用性。
輝達與 AMD 將向美國政府上交 15% 對華晶片出口收入
Nvidia 與 AMD 達成協議，將向中國出口 AI 晶片收入的 15% 上繳給美國政府。特朗普透露最初要價 20%，黃仁勳談下了 5%。此前針對 H20 和 MI308 的禁令現已解除，美方未來還可能批准效能削減 30% 至 50% 的 Blackwell 特供版入華。
防 AI 公司借道抓取資料：Reddit 開始封禁網路檔案館
Reddit 宣佈將限制 Internet Archive 抓取其絕大部分內容。Wayback Machine 將無法抓取帖子詳情、評論與使用者主頁，僅能索引首頁。Reddit 稱發現有 AI 公司繞開平臺規則、通過網路檔案館抓取資料來訓練模型，因此收緊了訪問許可權。
Anthropic 遭史上最大版權訴訟：行業警告恐拖垮 AI 產業
Anthropic 與多家行業協會敦促上訴法院叫停史上最大版權集體訴訟。該案涉及多達 700 萬名作者，潛在賠償金高達數千億美元。行業警告稱，如果該裁決迫使企業達成鉅額和解，不僅會重創 Anthropic，甚至可能直接拖垮整個生成式 AI 產業。
Claude Code 上線自動安全審查：終端一條命令掃漏洞，還能直接修
Anthropic 宣佈在 Claude Code 中上線自動化安全審查功能。開發者在終端執行 /security-review 即可排查 SQL 注入等漏洞並直接修復，也能通過 GitHub Action 在提 PR 時自動攔截風險，把安全審查前置到日常開發流程中。
環球影業片尾加警告：嚴禁拿旗下電影喂 AI，違者直接起訴
據報道，環球影業開始在《馴龍高手》等新片片尾加入明確法律宣告，嚴禁將電影用於 AI 訓練，違者將面臨起訴。環球影業希望通過在全球公映版本中加入此宣告，明確保留版權並限制資料抓取，為後續可能的盜版與侵權訴訟奠定基礎。
微軟推出 Project Ire：自主逆向工程分析惡意軟體，已攔截 APT 樣本
微軟公佈自主 AI 原型 Project Ire，無需人工介入即可自主反編譯未知檔案、推理程式碼邏輯並裁定威脅。該系統結合大模型與逆向分析工具鏈，已首度獨立定罪並攔截特定 APT 惡意樣本，誤報率僅 2% 至 4%，後續將整合進 Defender。
Cisco 發現大模型新漏洞：用「分解法」誘導 AI 逐字背出訓練資料
Cisco Talos 研究員披露名為 decomposition 的方法，可通過多輪提示繞過護欄，誘導大模型逐字背出訓練集裡的新聞報道。該測試成功從模型中提取了數十篇《紐約時報》的原句，給大模型版權爭議與敏感資料防護敲響了警鐘。
Cloudflare 指控 Perplexity：偽裝身份硬爬明確設防的網站
Cloudflare 釋出報告指控 AI 搜尋公司 Perplexity 繞過網站的反爬限制。即使網站在 Robots.txt 中明令禁止，Perplexity 仍涉嫌偽裝成 macOS 版 Chrome 抓取內容。Perplexity 回應稱指控純屬營銷，相關爬蟲並非自家所有。