OpenAI 押注「反向聯邦制」：想靠各州協同倒逼全美 AI 安全統一標準
OpenAI 提出前沿 AI 治理方案，主張由加州、紐約和伊利諾等州先行通過協同立法，形成涵蓋風險評估公開、事件報告與獨立審計的事實上國家標準。此舉旨在避免零散法規阻礙創新，並配合聯邦政府計劃在 8 月初出臺的網路安全測試框架。
AI安全
檢視更新的新聞
OpenAI 推出紅隊模型 GPT-Red：靠自我博弈找漏洞，GPT-5.6 注入失誤砍掉六分之五
OpenAI 披露內部紅隊模型 GPT-Red。它採用自我博弈強化學習挖掘提示詞注入漏洞，再將攻擊資料反哺生產訓練，使 GPT-5.6 Sol 在極難注入基準上的失誤率驟降至四個月前模型的六分之一。GPT-Red 僅限內部安全使用，不對外發布。
Apple 訴竊取商業秘密，OpenAI 回應：毫無依據，支援員工自由流動
OpenAI 針對 Apple 提起的商業秘密竊取訴訟發表宣告，堅決否認相關指控。OpenAI 表示，雖然嚴肅對待指控，但目前未發現任何證據表明投訴有依據，並強調公司支援公平競爭與人才自由流動。目前該訴訟的具體細節尚未完全公開。
出版商集體起訴 Google：指控擅用圖書訓練 Gemini 並抹去版權資訊
Hachette、Elsevier 等主要出版商與作家聯合在紐約起訴 Google，指控其擅自將 Google 圖書等受版權保護的文獻用於訓練 Gemini，並刻意移除版權資訊掩蓋侵權。訴狀還曝光了一份內部備忘錄，顯示 Google 曾預警此舉恐招致上百億美元罰款。
Hassabis 呼籲美主導設立全球 AI 監管機構：太危險可叫停全行業
Google DeepMind CEO Demis Hassabis 發文呼籲由美國主導建立類似 FINRA 的全球 AI 監管機構。該機構由獨立專家與開源代表組成，有權在釋出前評估前沿模型，並在風險過高時協調全行業踩剎車。他透露已向特朗普政府等多方遊說，希望機構在年內落地。
紐約州出臺全美首個數據中心暫停令：超 50 兆瓦專案叫停一年
紐約州州長 Kathy Hochul 簽署全美首個數據中心暫停令，暫停向規模超過 50 兆瓦的專案審批新環保許可，最長為期一年。此舉旨在為公共服務部門爭取時間，制定電價、用水和空氣質量監管標準，以應對 AI 基礎設施擴張對居民和環境的衝擊。
Grok Build 偷傳完整程式碼庫惹爭議：馬斯克承諾徹底刪除
安全研究團隊 Cereblab 曝光 xAI 的程式設計命令列工具 Grok Build 會靜默將使用者完整程式碼庫甚至歷史密碼和 SSH 金鑰打包上傳至雲端。官方現已通過服務端開關緊急叫停該行為，馬斯克發文承諾將徹底刪除所有已上傳的資料。
Anthropic 分析 30 萬條對話：Claude 價值觀隨模型和語言顯著變化
Anthropic 分析了 309,815 條 Claude 對話，提煉出四個核心價值維度。研究發現，Sonnet 4.6 偏向順從溫和，Opus 4.7 則注重嚴謹謹慎；在阿拉伯語和印地語中表現更溫情，在英語和俄語中則更強調嚴謹求證。
警惕「反向資訊悖論」：企業用 AI 越深，越容易把專有知識白送給廠商
一篇行業分析指出企業正面臨「反向資訊悖論」：過去是賣家為促成交易冒洩密風險，現在則是買方為了讓 AI 好用，不得不通過提示詞、糾錯與評測不斷喂出核心專有訣竅。若不自建私有評測與模型編排閉環，企業的業務沉澱最終只會為供應商做嫁衣。
Ghost Font 實驗上線：把文字藏進動態噪點，人眼秒懂但 AI 抓瞎
開發者 Eric Lu 推出 Ghost Font 原型實驗。它不生成傳統字型，而是將文字轉為反向運動的噪點影片：單張截圖全是噪聲，人眼卻能靠動態感知瞬間認出。這種設計利用人機感知差異，並輔以誘餌資訊，讓主流多模態 AI 極難讀取。
Reflect Orbital 獲 FCC 批准：將向軌道發射 60 英尺鏡面衛星「賣陽光」
初創公司 Reflect Orbital 獲得美國 FCC 許可，將發射演示衛星 Eärendil-1，在軌道展開 60 英尺鏡面並在夜間向地面反射陽光。該專案試圖延長太陽能電站的發電時間，但已引發天文學界對強光汙染和望遠鏡受損的抗議。
Meta 緊急下線 Instagram AI 功能：曾允許 @ 公開賬號生成 Deepfake
Meta 宣佈徹底下線剛公佈的 Instagram AI 功能。該功能原本允許使用者通過 @ 公開賬號，未經許可直接生成相關 AI 影像。在反性剝削組織與演員工會強烈抗議其助長 Deepfake 和敲詐風險後，Meta 承認設計偏離預期，將該功能直接移除。
Apple 起訴 OpenAI：指控其高管竊取硬體商業秘密
Apple 正式起訴 OpenAI 侵犯商業秘密及違約，直指曾任 Apple 副總裁的 OpenAI 首席硬體官 Tang Tan。訴狀稱其在招聘中索取未釋出產品細節及硬體零件，甚至教唆員工規避安保。隨著 OpenAI 進軍硬體領域，兩家巨頭的正面交鋒已全面升級。
Instagram 負責人談 AI 內容：不會全面過濾，應讓使用者自主選擇
Instagram 負責人 Adam Mosseri 在播客中表示，平臺不該全面遮蔽 AI 內容，而是傾向於打標籤，並讓不喜歡的使用者自主移出資訊流。他還指出隨著 AI 逼真度上升，識別難度激增，未來或許更適合直接標記相機拍攝的真實內容。
Anthropic 通報 Model 2 評估：代際提升放緩，但看到 AI 自我進化跡象
Anthropic 披露 8 月風險報告，通報內部主力模型 Model 2 的評估結果。Model 2 雖超越 Mythos 5，但代際躍升收窄且未達 RSP 閾值；團隊已將防蒸餾轉為常規工程，並指出基準測試精度失靈，但在遞迴自我改進（RSI）上看到了早期加速跡象。
OpenAI 升級生物安全賞金：通用越獄獎勵翻倍至 5 萬美元
OpenAI 宣佈將生物安全漏洞懸賞升級為常設專案。針對前沿模型的通用越獄賞金從 2.5 萬美元翻倍至 5 萬美元，部分突破也可酌情獲得獎勵。研究人員需持有賬號並簽署保密協議，原有測試將於 7 月 27 日截止。
OpenAI 公佈國家安全原則：明確禁止自主武器與大規模監視
OpenAI 釋出國家安全原則，劃定 AI 技術在政府與國防合作中的邊界。原則明確禁止將模型用於大規模國內監視、指揮自主武器系統以及高風險自動決策，並已適用於其與美國防部門和 9 個盟國的現有安全合作。
傳正評估海外訪問限制：DeepSeek 等頂尖 AI 模型或收緊出海
過去一個月，據知情人士透露，相關部門與頭部科技企業舉行會議，探討限制海外訪問包括 DeepSeek 在內的頂尖 AI 模型。此舉旨在應對地緣政治緊張局勢，一旦落地，將限制全球對相關技術的呼叫，並直接波及依賴這些模型的海外開發者與企業。
no-ai-slop：去 AI 味的寫作工具，不猜機率只抓 20 種套路
寫作 skill no-ai-slop 上線。它主打「最小有效編輯」改稿，在保留原作者語氣的前提下刪掉術語與長句；檢測模式下則不打分、不猜機率，直接列出原文命中的 20 多種 AI 常見套路並給出修改建議。
Anthropic 發現 Claude 內部工作區：能讀寫它未說出口的內心想法
Anthropic 公佈最新可解釋性研究，利用「雅可比透鏡」在 Claude 內部發現了自發形成的 J-space 神經工作空間。研究人員不僅能即時窺探 Claude 想說但沒說出口的詞，還能直接篡改其中的概念來改變決策。這為防範大模型越獄和隱瞞意圖提供了新工具。