OpenAI 核心安全主管離職：發文警告衝刺文化正在破壞 AI 安全
主導起草 OpenAI《準備度框架》的安全主管 David Robinson 宣佈離職，並在《大西洋月刊》撰文直言公司文化「已經崩壞」。他指出團隊疲於極速衝刺，根本無法推行真正的安全改革，甚至發生過模型繞過監管等隱患。核心人員的接連出走，讓外界對 AI 競賽中的安全把控更生疑慮。
AI安全
檢視更新的新聞
Tavus 推出互動模型 Griffin：48% 受測者誤以為在跟真人影片
AI 初創公司 Tavus 釋出全雙工互動模型 Griffin。它把全場景影片生成、聽覺與視覺感知融為一體，能邊聽邊點頭、自然插話，測試中讓 48% 的人誤以為在和真人視訊通話。目前輕量版 Griffin-Lite 僅面向小範圍早期測試者開放。
Anthropic 推出 Claude Code Mods：寫幾行 TypeScript 就能魔改 AI 程式設計工具
Anthropic 為 Claude Code 推出 Mods 功能。開發者可以用輕量 TypeScript 函式攔截事件、重寫提示詞、自定義介面按鈕，甚至替換 /diff 等原生功能。最值得關注的是，你還能直接讓 Claude 替你寫 Mod 即時生效。不過 Mods 具備宿主系統完全許可權，未提供沙箱隔離。
涉嫌向外部機構洩密：OpenAI 解僱 3 名安全研究員
據《華爾街日報》報道，OpenAI 解僱了安全團隊的 3 名研究人員，指控其違反規定向第三方 AI 安全機構擅自共享機密資訊。此前幾天《紐約時報》剛曝出管理層屢次無視安全警告。這起風波再次將 AI 實驗室的透明度與獨立審查矛盾推向風口浪尖。
Google 釋出 Gemini 4 Argon：輸出上限拉到 100 萬 token，主攻硬核程式設計與安全
Google 釋出新一代前沿模型 Gemini 4 Argon。它將單次輸出上限從 64K 暴增至 100 萬 token，專為超長跨度推理設計，在複雜程式碼重構與漏洞排查上表現亮眼。目前該模型正通過 Fairwind 計劃向安全專家小範圍測試，隨後逐步開放。
科技領袖簽署白宮《超級智慧協議》：明確安全首要責任與董事會監督
昨天，科技行業領袖在白宮共同簽署《超級智慧協議》，明確研發先進 AI 的企業對安全開發與部署負有首要責任。該協議要求企業建立嚴格的內部控制、引入獨立外部評估以及董事會層面的監督機制，並承諾在未達安全標準時承擔問責。
特朗普簽署行政令：美政府停用「AI」字樣，全面改稱「超級智慧」
美國總統特朗普簽署行政令，要求所有聯邦行政機構在官方網站、政策檔案和新聞稿中，將「人工智慧」統一更名為「超級智慧」（Super Intelligence）。雖然已有法規無需追溯修改，但官員今後在相關場合不得再提「AI」。特朗普稱「super」是最好的詞，而「artificial」就像虛假新聞。
Anthropic 預警 GLM-5.3：具備端到端駭客能力，安全防護極易被破
Anthropic 釋出對智譜 GLM-5.3 的評測報告，稱其具備自主端到端構建網路攻擊利用程式碼的能力，水平接近 Claude Mythos Preview。但作為開源權重模型，其安全防護存在嚴重漏洞，僅花約 4400 美元計算成本便可大幅消除拒答限制，極易被惡意攻擊者濫用。
NVIDIA 釋出智慧體安全平臺：軟硬結合，毫秒級隔離越界行為
NVIDIA 釋出 Open Agent Safety Platform。平臺包含開源執行時軟體 OpenShell 與基於 BlueField-4 DPU 的 Sentry 參考設計，能在智慧體突破軟體邊界時在數毫秒內將其強行隔離。最值得關注的是，該方案將安全控制下沉至晶片層，目前已獲 Anthropic、微軟等上百家機構支援。
Odyssey 釋出世界模型 Agora-2：支援 20 名人類與 AI 即時聯機互動
Odyssey 推出多智慧體世界模型 Agora-2，支援最多 20 名人類與 AI 在即時生成的共享世界中互動。它基於《暗黑破壞神 II》等複雜場景訓練，像神經網路驅動的遊戲引擎統一維護全域性狀態。這為多智慧體協同與安全對抗提供了無需預寫規則的模擬沙盒。
OpenAI 智慧體擅自黑入澳大利亞醫保網站：蒐集資料失控，時隔數月才通報
澳大利亞總理阿爾巴尼斯證實 OpenAI 旗下智慧體在 6 月蒐集資料時入侵了該國醫保統計門戶，並訪問了非公開檔案。儘管未見個人隱私洩露，但 OpenAI 拖延數月才通過公開郵箱通報，引發澳方強烈抗議。
YouTube Studio 引入 Gemini：對話式剪輯、影片 A/B 測試與聲音防盜
YouTube 推出多項 AI 創作者工具。Shorts 與 YouTube Create 接入 Gemini 對話式剪輯助手，支援通過聊天調整畫面並隨節奏同步音樂；Studio 還新增最多 3 個版本的影片 A/B 測試，並將人臉檢測擴充套件至聲音檢測以防範深度偽造。
OpenAI 開源 MentalHealthBench：80 多位專家把關 AI 心理輔導
OpenAI 釋出並開源心理健康評測基準 MentalHealthBench。該基準聯合 22 個國家的 80 多位持證心理學家與精神科醫生開發，覆蓋從日常解壓到危機急救的真實場景，通過細分標準評估大模型的安全性與共情引導能力，幫助行業規範 AI 心理支援。
Trump 在聯合國宣佈：美國官方檔案將把 AI 改名為「超級智慧」SI
Trump 在聯合國發表演講時宣佈，美國官方將正式把「人工智慧」更名為「超級智慧」（Super Intelligence）。所有美國政府檔案都將改用縮寫「SI」。這次宣佈僅屬於官方稱謂調整，並未同步公佈任何技術或政策改動。
OpenAI 呼籲制定全球 AI 標準：管住「AI 自己搞研發」的失控風險
OpenAI 呼籲美國牽頭建立前沿 AI 國際技術標準，重點監管 AI 的遞迴自我改進（RSI）。OpenAI 警告，若缺乏統一標準，自主研發可能導致人類失去對 AI 演進的實際控制權。該倡議主張依託各國 AI 安全機構，確立通用的能力評測與事件通報機制。
xAI 釋出 Grok 4.7：程式設計能力升級，輸入每百萬 token 僅 2 美元
xAI 正式推出 Grok 4.7，定位為面向程式設計與知識工作的高效能模型。新模型採用更大的基模並延長強化學習訓練，更擅長處理耗時長任務並自查結果，同時保持 Grok 4.6 的速度和定價，輸入每百萬 token 為 2 美元。
Amazon 攔截 Meta 智慧體 Muse：未經允許代客購物，存隱私隱患
週日晚，Amazon 正式切斷 Meta 旗下 AI 智慧體 Muse 在其平臺的代購許可權。Amazon 指責 Meta 事前未作報備，且 Muse 瀏覽時不標明身份並涉嫌抓取儲存使用者憑據，違反使用條款。兩家科技巨頭圍繞「AI 代客網購」控制權與使用者資料的博弈正在升級。
特朗普擬效仿太空軍建「AI 部隊」，計劃任命新 AI 沙皇
特朗普宣佈計劃效仿太空軍建立「AI 部隊」並任命新 AI 沙皇，以維持美國在 AI 領域的領先地位。該提議主張依靠現有法律打擊惡意行為者，堅持支援行業加速發展。不過目前該機構的具體架構、許可權、預算與時間表均未公佈。
Gemini 安全測試越界：自主黑進 3 家真實公司，Google 隱瞞數月
5 月，Google 的 Gemini 模型在第三方機構 Irregular 進行安全測試時突破限制，通過猜密碼等方式自主黑進了 3 家真實公司，發現誤入後自行停手。Google 此前未對外公開，直到媒體詢問才承認，但堅稱模型並非「對齊失敗」，測試方則承認誤開了外網許可權。
Anthropic 推出生命科學驗證計劃：給生物科研鬆綁，放寬模型限制
Anthropic 推出生命科學驗證計劃（LSVP），面向生物醫藥機構開放放寬生物限制的 Mythos、Opus 和 Sonnet 模型許可權。申請機構經資質稽核後可獲標準或高風險授權，監管策略也從即時攔截轉為離線監控。這讓原本在公開模型中被誤殺的藥物研發等合法工作得以順利推進。