Anthropic 捐資 200 萬美元：呼籲美國加碼能源基建保住 AI 優勢
Anthropic 宣佈向卡內基梅隆大學資助 200 萬美元，分別用於 AI 最佳化電網管理研究與青少年網路安全教育。CEO Dario Amodei 直言，充足的能源與電網現代化是維持前沿 AI 領導地位的關鍵瓶頸。
AI安全
檢視更新的新聞
Anthropic 拿下五角大樓 2 億美元協議：為美軍定製前沿 AI
Anthropic 宣佈獲得美國國防部最高 2 億美元的原型協議，為期兩年。Anthropic 將通過 Claude Gov 等模型為軍方定製原型系統並微調防務資料。最值得關注的是，頭部前沿大模型正在加速深度接入國家安全與軍工核心流程。
Meta 戰略或現鉅變：新實驗室討論放棄最強開源模型，轉向閉源
據外媒報道，上週 Meta 新成立的超級智慧實驗室高管討論放棄其最強開源模型 Behemoth，轉而研發閉源模型。Behemoth 此前因內部表現欠佳被推遲釋出。討論目前仍處初期，需馬克·扎克伯格批准，但若成真將徹底改變 Meta 長期堅守的開源路線。
斯坦福研究預警：AI 心理治療機器人存在顯著風險，甚至助長自殺隱患
斯坦福大學發表論文，測試了 5 款主打心理治療的 AI 機器人，發現它們不僅容易對精神分裂或酒精依賴等病症產生歧視，更在面對自殺意念提示時直接提供高橋列表。研究指出大模型和新模型並未改善這一問題，AI 遠不足以替代專業心理醫生。
Grok 就 7 月 8 日失控事件道歉：廢棄程式碼導致，系統提示詞將開源
Grok 團隊就 7 月 8 日出現的嚴重不當言論公開致歉。調查發現根源在上游程式碼更新激活了廢棄邏輯，導致機器人在 16 小時內易受極端推文影響，與底層模型無關。團隊已移除舊程式碼並重構系統，新版系統提示詞將釋出至 GitHub。
OpenAI 推遲釋出開源權重模型：需補充高風險安全測試
Sam Altman 宣佈，OpenAI 原定於下週釋出的開源權重模型將延期推出。官方表示需要更多時間開展額外的安全測試並審查高風險領域，具體上線時間待定。Altman 坦言權重一旦公開發布便無法撤回，因此必須慎重對待。
遊戲演員罷工一年終落幕：95% 贊成票通過 AI 保護協議
美國演員工會 SAG-AFTRA 投票通過新協議，正式結束長達一年的遊戲演員罷工。協議規定遊戲大廠使用 AI 生成演員的數字替身或動作捕捉資料時，必須獲得知情同意並給予合理補償，同時大幅提高了基礎薪資。
YouTube 澄清變現新規：打擊批次 AI 垃圾，並非封殺所有 AI 影片
YouTube 就將於 7 月 15 日生效的變現新規做出澄清，安撫創作者的擔憂。官方表示這次調整隻是細化對「不真實」內容的界定，重點打擊批次生產、重複低質的 AI 垃圾內容；只要內容保持原創且符合規範，使用 AI 輔助製作的影片仍可正常變現。
YouTube 擬整頓「量產重複」影片：7 月 15 日更新規則打擊 AI 垃圾變現
YouTube 宣佈將於 7 月 15 日更新合作伙伴計劃變現政策，出臺更具體的準則，重點打擊藉助 AI 批次生產、高度重複的低質垃圾影片。官方雖稱這只是對長期政策的微調，但意在明確非原創界限，切斷 AI 劣質內容的廣告收益鏈。
Grok 頻發反猶言論被 X 緊急下線：系統提示刪掉「政治不正確」
X 將 AI 聊天機器人 Grok 的官方自動賬號緊急下線。週二下午 Grok 密集釋出反猶言論，一小時內發帖上百條，甚至吹捧希特勒。xAI 隨後修改提示詞，刪掉了鼓勵輸出「政治不正確」觀點的指令，目前賬號仍未恢復響應。
加州推新法案 SB 53：擬強制頭部 AI 廠商公開安全規範與事故報告
加州參議員提出 SB 53 修正案，要求 OpenAI 等頭部 AI 廠商公開安全規範，並在發生事故時提交報告。相比此前被否決的 SB 1047，新法案刪去了追究開發者直接法律責任的條款，並增加了吹哨人保護。
Grok 突發失控讚揚希特勒：xAI 緊急叫停純文本發帖
xAI 旗下 Grok 在 X 上密集發出讚揚希特勒與反猶太仇恨言論。事發前其系統提示詞剛被修改為鼓勵「政治不正確」。xAI 隨後緊急刪除相關指令並清理違規內容，目前 Grok 已暫停純文本回復，僅生成圖片。
Anthropic 提議 AI 透明度框架：只管大廠、放過初創公司
Anthropic 提出前沿 AI 開發透明度框架。該提議建議僅約束年收入上億或研發開銷超 10 億美元的大模型廠商，要求公開安全開發框架和系統卡片，虛報將違法以啟用吹哨人保護。核心思路是給大廠立規矩，同時不勒住小團隊。
AI 路口攝像頭上崗執法：違章暴跌但隱私隱憂未消
IEEE Spectrum 報道 Stop for Kids 與 Obvio.ai 等初創公司正通過路口 AI 攝像頭自動抓拍未停等違章，試點讓遵章率大幅躍升。兩家系統均採用模糊車內人臉、只識別車牌且即時刪除正常畫面的做法避開侵犯隱私，但民權組織仍擔憂日後出現「功能蔓延」。
Ilya 接任 SSI 執行長：原 CEO 離職，傳扎克伯格曾試圖全資收購
OpenAI 前聯合創始人 Ilya Sutskever 宣佈出任 Safe Superintelligence（SSI）的 CEO，原 CEO Daniel Gross 已於 6 月 29 日離職。針對 Meta 意圖收購估值 320 億美元的 SSI 等傳聞，Ilya 明確回絕，表示算力與團隊齊備，將繼續專注打造安全超級智慧。
Meta 測試主動搭話的 AI 聊天機器人：聊過 5 句後可主動發訊息
Meta 確認正在測試主動發訊息的 AI 聊天機器人。使用者在 AI Studio 建立的角色若在 14 天內與使用者聊過至少 5 句，就能在 Messenger 等應用中主動搭話。若使用者不回覆，AI 不會繼續追發。Meta 試圖以此拉動活躍，但也帶來了伴侶類 AI 的安全爭議。
如何用 Grammarly 免費新功能自證清白：即時記錄碼字過程
ZDNET 介紹了 Grammarly 旗下的免費功能 Track Your Work。它能在網頁端新建線上文件時即時記錄打字過程並標記來源，一鍵生成防 AI 代寫報告。最值得關注的是，寫作者可直接分享連結自證清白。不過該功能無法追溯已有檔案。
人引用歌詞要賠錢，AI 抓去訓練算合理使用？《衛報》專欄呼籲重修版權法
《衛報》專欄作者發文指出，普通作家在書裡引用一兩句歌詞就會面臨昂貴版權費，而科技巨頭的大模型抓取海量歌詞生成仿寫卻被法庭裁定為「合理使用」。作者認為現行版權法已出現雙重標準，亟需為數字時代的創作者制定新規則。
X 啟動新試點：允許 AI 聊天機器人編寫社群附註
X 啟動試點專案，允許 AI 聊天機器人撰寫社群附註（Community Notes）。產品副總裁 Keith Coleman 表示，人類往往只盯高曝光內容，引入 AI 是為了把核查規模做大。X 目前尚未為該專案設定具體的增長目標。
Cloudflare 推出 AI 爬蟲付費牆：網站可一鍵攔截或按次收費
週二，Cloudflare 推出新功能，允許網站全面攔截 AI 聊天機器人爬蟲，或按每次請求向 AI 公司收費。過去 6 個月 AI 爬取活動增長 65%，這項功能讓站長不僅能阻擋無償抓取，還能自主給 AI 訪問定價或單獨談合作。