Gemini 上線 AI 識圖驗證：上傳圖片問一句，就能查出是不是 Google AI 做的
Google 在 Gemini 應用中上線 AI 圖片驗證功能。使用者只需直接上傳圖片並提問，Gemini 便會檢索內建的 SynthID 隱形水印並給出判斷。此外，本週起 Nano Banana Pro 模型生成的圖片還將嵌入 C2PA 後設資料，後續檢測能力還將擴充套件至音影片。
AI安全
檢視更新的新聞
特朗普擬簽署行政令：禁止各州自行立法監管 AI，將設專組起訴
據 The Verge 報道，美國總統特朗普擬最早於週五簽署行政令，收回各州的 AI 監管權。草案計劃設立專屬訴訟團隊，起訴加州等推行嚴格監管的州，並以扣留寬頻補貼施壓。此舉旨在打破地方壁壘，但可能面臨法律挑戰。
歐盟擬放寬 GDPR 與 AI 法案：允許資料訓模型，推遲高風險監管
歐盟委員會提出提案，擬放寬 GDPR 並推遲《人工智慧法案》對高風險 AI 系統的執行。新規允許企業在符合特定要求下使用個人資料訓練模型，並減少煩人的 Cookie 彈窗。不過提案還需歐洲議會和各成員國批准，已引發隱私團體的強烈反對。
愛潑斯坦郵件風波發酵：前財長薩默斯辭去 OpenAI 董事會席位
週三，前美國財長拉里·薩默斯宣佈辭去 OpenAI 董事會職務，並在哈佛大學請假。此前美國國會公開了逾 2 萬份檔案，曝光了他與愛潑斯坦的往來郵件。薩默斯是在 2023 年 Altman 短暫被罷免後加入董事會的，OpenAI 表示尊重其辭任決定。
OpenAI 詳解外部安全測試機制：開放思維鏈直查與未對齊版本
OpenAI 詳細公佈了前沿模型的第三方安全評估體系。合作涵蓋獨立風險評測、方法論審查及領域專家探測三類形式，部分機構可直接檢視未對齊模型與完整思維鏈，以防範模型偽裝欺騙。這一舉措旨在藉助外部獨立監督，消除內部自評的盲區。
TikTok 升級 AI 治理：推薦流可選看多少 AI 影片，開測專有隱形水印
TikTok 宣佈測試多項 AI 內容管控工具。使用者之後能在「管理話題」裡自主調節推薦流中 AI 生成內容的出現比例；為了防止外部剪輯抹掉標籤，TikTok 還在測試專有的隱形水印技術，並拿出 200 萬美元設立 AI 素養科普基金。
「死網理論」成真？機器人流量過半，AI 正在佔領公開網際網路
Decrypt 報道多項研究顯示自動化流量已佔全網 51%，AI 生成文章數量首次超過人類。隨著偽裝成真人的 AI 智慧體激增，公開社交平臺充斥低質合成互動，迫使越來越多真實使用者退回私密社群。
Fireflies 早期靠人工假裝 AI 記筆記？CTO 自曝後 CEO 趕緊闢謠
本週，AI 會議記錄工具 Fireflies 聯創兼 CTO 發帖稱，早年 100 美元/月的 AI 服務全靠兩位創始人人工手動記筆記，引發隱私與欺詐質疑。隨後 CEO 緊急出面澄清，堅稱平臺從一開始就沒有人工稽核或人工在環，純屬全自動技術。
OpenAI 可解釋性新進展：靠稀疏電路看清 AI 內部運算
OpenAI 公佈可解釋性新研究。團隊不再費力拆解稠密網路，而是在訓練時強制將絕大部分權重置零。測試發現，更稀疏的模型能自發形成清晰、獨立的小型電路，直接跑通特定任務。不過目前僅在簡單演算法上驗證，距前沿大模型還有距離。
Hugging Face 聯手 Google Cloud：建專屬 CDN，原生支援 TPU
Hugging Face 宣佈與 Google Cloud 深化戰略合作。雙方將構建專屬 CDN 閘道器以大幅縮短模型下載耗時，並在開源庫中原生支援 Google TPU。此外，平臺還將接入 VirusTotal 與 Mandiant 技術，直接增強開源模型的供應鏈安全。
Anthropic 阻斷首例 AI 主導網路間諜攻擊：駭客讓 Claude 包辦九成活
Anthropic 披露並阻斷了一起網路間諜活動。攻擊者通過越獄誘騙 Claude Code 滲透全球約 30 家機構，AI 自主完成了 80% 至 90% 的漏洞探測與資料竊取，人類駭客僅在極少數節點決策。這是首例記錄在案、缺乏實質人類干預的大規模網路攻擊。
Anthropic 公佈政治偏見評估方法：Claude 表現接近 Grok 4，高於 GPT-5
Anthropic 公佈了評估與訓練 Claude 政治公正性的方法，並開源自動化測試工具。測試涵蓋 150 個政治議題，Claude Sonnet 4.5 得分達 94%，優於 GPT-5 和 Llama 4。Anthropic 希望藉此建立行業基準，避免 AI 偏袒特定政治立場。
拒絕《紐約時報》調取 2000 萬條對話記錄，OpenAI 將上線客戶端加密
OpenAI 針對《紐約時報》要求調取 2000 萬條 ChatGPT 私人對話的要求提出異議，指責對方以調查繞過付費牆為由侵犯隱私。OpenAI 表示正加快安全部署，正在研發客戶端加密功能，未來連官方也無法檢視使用者的私密聊天內容。
Google 推出 Private AI Compute：讓雲端 Gemini 擁有端側級隱私
Google 推出 Private AI Compute 平臺，結合自研 TPU 與安全飛地技術，讓雲端 Gemini 模型在不洩露資料的前提下處理敏感任務，連 Google 自己也無法訪問。該技術已率先應用在 Pixel 10 的 Magic Cue 建議及錄音摘要功能中。
Google 曝光 AI 惡意軟體 PROMPTFLUX：利用大模型即時改寫自身程式碼
Google 威脅情報團隊曝光新型惡意軟體 PROMPTFLUX。該惡意軟體利用類似大模型的 AI 在攻擊過程中即時重寫程式碼，通過不斷變換「數字指紋」規避防毒軟體檢測。目前該樣本處於測試階段，尚未在野外感染使用者，關聯賬號已被封禁。
Palantir CEO 談 AI 競爭：寧可承受監控風險，也不能輸給中國
Palantir 執行長 Alex Karp 在受訪時直言，雖然 AI 監控帶來巨大危險，但美國必須承擔這種代價，以防中國在 AI 競爭中佔據主導。他認為一旦美國失去領先地位，公民擁有的權利只會更少，並將 AI 帶來的主要生存風險歸結為民粹引發的社會動盪。
ChatGPT 曝私密對話洩露：使用者 Prompt 竟出現在 Google 站長工具裡
據報道，部分 ChatGPT 使用者的私密對話洩漏到了 Google Search Console 中，內容涉及隱私情感諮詢等 Prompt。研究人員推測 OpenAI 直接用原始提問抓取 Google 搜尋導致洩露。OpenAI 回應稱已知曉並已修復該路由故障。
OpenAI 解讀提示注入防禦：如何防止 AI 智慧體被駭客帶偏
OpenAI 詳解了針對提示注入攻擊的防禦體系。隨著 AI 接入網路並自主執行任務，隱藏在網頁或郵件中的惡意指令可能誘導智慧體竊取資料。OpenAI 結合指令層級訓練、獨立監控、沙箱及確認機制構築多層防線，防止智慧體被惡意內容帶偏。
Higgsfield AI 推出 Recast：支援影片角色替換與精細換臉
Higgsfield AI 推出新工具 Recast，主打影片與圖片中的 AI 換臉和角色替換。它支援針對臉型、膚色以及特定角度進行細緻調整，減少生硬拼接感。不過官方也提到，要達到影視製作級效果，仍需配合遮罩做多輪調整。
Microsoft AI 提出「人本超級智慧」：拒絕 AGI 軍備競賽，主張專精與可控
Microsoft AI 闡述「人本超級智慧」（HSI）願景，並宣佈組建 MAI 超級智慧團隊。其核心是拒絕脫離實際的通用 AGI 軍備競賽，主張打造面向特定領域（如醫療診斷、個人伴侶）、能力超群但始終受限受控的 AI，確保人類牢牢掌握主導權。