白宮反對 Anthropic 開放 Mythos：算力先緊著政府用
Anthropic 原本計劃把新模型 Mythos 的企業訪問範圍從約 50 家擴大到近 120 家，但遭到白宮叫停。美官員擔憂這會擠佔算力並影響政府自身使用。最值得關注的是，儘管雙方此前摩擦不斷，政府內部仍因 Mythos 極強的網路安全能力而不想放手。
AI安全
檢視更新的新聞
OpenAI 破案 GPT-5「哥布林」怪癖：竟來自 Nerdy 個性的獎勵訓練外溢
OpenAI 發文復盤 GPT-5.1 以來模型頻頻使用「哥布林」打比方的根源。調查發現，為 Nerdy 個性設計的獎勵訊號在 76.2% 的資料集中過度偏好生物詞，隨後通過強化學習外溢至全部對話。OpenAI 已於 3 月退役該個性並清洗資料。
OpenAI 釋出網路安全行動計劃：提五大支柱用 AI 普及網路防禦
OpenAI 釋出網路安全行動計劃，針對惡意利用 AI 發動攻擊的風險，提出協助美國及其盟友加強數字防禦。該計劃包含普及網路防禦、政企協同等五大支柱，核心是向守方開放防禦工具，並強化前沿模型自身的安全管控。
OpenAI 披露 ChatGPT 防暴力機制：高危直接報警，將推成年人緊急聯絡人
OpenAI 公佈 ChatGPT 針對暴力及現實傷害的防護體系。系統利用分類器與推理模型檢測違規跡象並交由人工稽核，違規賬號立即封禁；一旦發現迫在眉睫的嚴重現實危害將主動報警。此外，官方透露即將為成年使用者上線緊急聯絡人功能。
Google 頂著員工反對與五角大樓簽約：AI 模型將進駐涉密網路
據 The Information 報道，Google 與美國國防部簽署協議，允許軍方在涉密網路中部署其 AI 模型。五角大樓正加速引入多家科技大廠的 AI 技術以防止廠商鎖定，此前軍方曾因使用限制條款與堅持設防的 Anthropic 鬧上法庭。
研究人員推出 13B 復古模型 Talkie：只讀過 1931 年前文本，零汙染測 AI 泛化
前 OpenAI 與 Anthropic 研究人員推出 13B 復古模型 Talkie，完全基於 1931 年前的 2600 億 token 歷史文本訓練。最值得關注的是，它徹底杜絕了現代網路資料汙染，甚至能靠少量示例推匯出簡單的 Python 運算。這為測試 AI 的真實泛化與推理提供了罕見的乾淨樣本。
超 600 名員工聯名致信 Pichai：要求 Google 拒絕五角大樓機密 AI 專案
據報道，超 600 名 Google 員工向 CEO Sundar Pichai 聯名致信，要求公司禁止五角大樓在機密場景中使用 Gemini 等 AI 模型。聯名者包含 DeepMind 團隊及 20 多位總監和副總裁。信件警告稱，一旦進入機密環境，員工將無法監督和阻止潛在危害。
馬斯克起訴 OpenAI 案落幕：陪審團因時效駁回全部指控，馬斯克敗訴
在經過近一個月的庭審後，陪審團僅商議兩小時便裁定駁回埃隆·馬斯克對 OpenAI 及山姆·奧特曼的訴訟，法官採納了該決定。陪審團認定指控已過訴訟時效。馬斯克此前指控 OpenAI 背棄非營利初衷轉向盈利，最終以其全面敗訴收場。
中國監管叫停 Meta 收購 Manus：涉資 20 億美元，被令撤回交易
中國監管部門叫停 Meta 斥資約 20 億美元收購 AI 初創公司 Manus 的交易，要求撤回併購。Manus 主打能自主規劃並執行任務的智慧體。雖然其團隊已融入 Meta，但因創立於中國仍受監管約束，解綁將給 Meta 帶來棘手難題。
OpenAI 公佈五大原則：防止少數人壟斷超智，承諾降低算力成本
OpenAI 釋出指導 AGI 開發的五項原則，涵蓋民主化、賦能、共同繁榮、韌性與適應性。OpenAI 承諾防止技術權力集中在少數實驗室手中，主張通過民主機制決定關鍵事項。團隊表示將繼續在全球擴建基礎設施以大幅降低算力成本，並與政府合作防範新型病原體與網路安全風險。
Anthropic 升級 Claude 選舉防護：偏見評測超 95%，防範自主虛假宣傳
Anthropic 公佈 Claude 應對 2026 年選舉的安全更新。Claude Opus 4.7 與 Sonnet 4.6 在政治偏見測試中分別取得 95% 和 96% 的高分，選舉違規攔截率接近 100%。在自主操縱輿論的測試中，內建防護的模型幾乎拒絕了所有惡意任務。
OpenAI 開源 Privacy Filter：本地執行脫敏 8 類隱私資料
OpenAI 開源隱私過濾模型 Privacy Filter，可脫敏 8 類隱私資料。其總引數 1.5B、啟用引數僅 50M，支援 128,000 token 上下文，在修正基準測試中 F1 達 97.43%。資料無需上傳即可在本地完成脫敏。
Meta 被曝記錄員工滑鼠和按鍵：用來訓練自主工作智慧體
據路透社報道，Meta 正向美國員工的電腦安裝追蹤軟體 MCI，採集滑鼠軌跡、點選、按鍵甚至螢幕截圖，用於訓練能自主處理辦公任務的 AI 智慧體。Meta 表示該資料不用於績效考評，但這套原本用於監控零工的手段引發了白領隱私爭議。
YouTube 擴充套件肖像檢測工具：明星沒頻道也能查刪 AI 換臉
YouTube 宣佈將肖像檢測技術擴充套件至娛樂經紀公司及藝人。該工具類似 Content ID，可掃描識別 AI 換臉等 Deepfake 內容並支援申請下架。最值得關注的是，即便演藝人員自己沒有開設 YouTube 頻道，現在也可以直接使用該工具維權。
Anthropic 網路安全模型 Mythos 遭未授權訪問：通過第三方供應商洩露
據彭博社報道，Anthropic 專為網路安全打造的高風險 AI 模型 Mythos 被未授權使用者通過第三方供應商環境訪問並使用。該模型原僅在「Glasswing 計劃」下向少數企業限量開放。Anthropic 表示已就此展開調查，目前自身系統未受波及。
OpenAI 擴大網路安全防禦計劃：投入千萬美元額度，開放 GPT-5.4-Cyber 評估
OpenAI 宣佈擴大網路安全受信任訪問計劃，承諾通過專項資助提供 1000 萬美元 API 額度，首批支援 Socket、Semgrep 等漏洞研究團隊。包括高盛、輝達在內的多家巨頭已加入支援，美英兩國的 AI 安全機構也已獲准評估 GPT-5.4-Cyber。
Anthropic 釋出 Claude Opus 4.7：高難度程式設計大幅升級，加裝網路安全防護
Anthropic 正式上線 Claude Opus 4.7，面向全線產品及 API 開放。新模型大幅提升了複雜軟體工程能力與影像解析度，能自主檢驗輸出並長時間執行多步任務，同時引入了高危網路安全行為自動攔截機制，呼叫價格維持不變。
OpenAI 購買 FrontierMath 驗證器：自動檢驗模型生成的數學解法
Epoch AI 宣佈 OpenAI 購買了 FrontierMath: Open Problems 驗證器訪問許可權。該基準彙集了極高難度的數學難題，此舉讓 OpenAI 能夠自動核驗模型生成的解法是否嚴謹有效，為高階推理能力的評估提供更可靠的支撐。
OpenAI 擴容網路安全可信訪問：上線防禦專供模型 GPT-5.4-Cyber
OpenAI 宣佈擴大網路安全可信訪問（TAC）計劃，並推出專用於網路防禦的 GPT-5.4-Cyber 模型。該版本降低了安全防禦任務的攔截門檻，支援二進位制反向工程，允許防禦者直接分析已編譯軟體的漏洞與惡意程式碼。經過認證的個人專家與團隊均可申請。
Anthropic 測試 AI 對齊研究員：Claude 將弱到強監督指標提至 0.97
Anthropic 披露用 9 個 Claude Opus 4.6 例項充當自動化對齊研究員。在弱到強監督實驗中，人類耗時 7 天使 PGR 達到 0.23，而 Claude 花費 5 天將 PGR 推高至 0.97。不過該方法在 Claude Sonnet 4 實際生產規模測試中未見顯著提升。