Anthropic 聯手 Palantir 與 AWS：把 Claude 引入美國防務與情報機構
Anthropic 聯手 Palantir 與 AWS，將 Claude 3 和 3.5 模型引入美國防務與情報機構。模型整合在 Palantir AIP 中，運行於獲 DISA IL6 認證的機密環境，協助情報人員快速處理複雜資料與文件。這也是 Claude 首次進入機密防務環境。
AI安全
檢視更新的新聞
字節跳動釋出 X-Portrait 2：讓一張靜態照片演《閃靈》
字節跳動推出 AI 系統 X-Portrait 2，僅憑單張照片就能重現經典電影裡的複雜表情。它放棄了傳統打點追蹤，直接學習整張臉的肌肉流動，連驚恐與狂喜都能逼真呈現。出於深度偽造與濫用擔憂，位元組目前未對外公開程式碼。
特朗普勝選：拜登 AI 行政令或遭廢除，聯邦監管迎大轉向
據 TechCrunch 分析，特朗普贏得大選後預計將兌現承諾，在「第一天」廢除拜登的 AI 行政命令。此舉將大幅削弱對前沿模型的安全報告與審查要求，聯邦轉向寬鬆監管。不過分析指出，各州正自行立法補位，加徵關稅與出口管制也將給行業帶來新變數。
特朗普勝選或將重塑 AI 監管：廢除拜登行政令，推行輕度監管
隨著特朗普勝選，業界預計其將在上任首日廢除拜登簽署的 AI 行政令，撤銷強制披露安全測試等規定。這意味著美國聯邦層面將轉向寬鬆監管以刺激創新，但對外晶片出口管制與關稅可能進一步收緊，各州也或將加速自行立法填補空白。
AI 安全倡導者呼籲初創公司慢下來：別光顧著狂奔，先做好紅隊測試
多位 AI 安全從業者在 TechCrunch Disrupt 上呼籲創業者放慢產品釋出節奏。面對近期 Character.AI 引發的訴訟以及版權、深度偽造風險，嘉賓強調不能只顧跑馬圈地，必須在產品上線前做好紅隊測試並設立防護欄。
Meta 放寬 Llama 使用限制：破例向美國防及國安機構開放
Meta 宣佈打破軍用禁令，向美國國防與國家安全機構及其承包商開放 Llama 模型。Oracle 已用其處理戰機維護文件，Lockheed Martin 則用它生成程式碼。這一例外政策也同步適用於英、加、澳、紐西蘭四國對應機構。
Instagram 將用 AI 抓瞞報年齡的未成年人：翻生日祝福識別，自動鎖隱私
Meta 計劃於 2025 年初在 Instagram 上線「成人分類器」AI 工具，專門抓取虛報年齡的未成年人並強制切換至受限隱私設定。該工具會分析賬號互動及好友留下的生日祝福推測真實年齡。若被判定未滿 18 歲，想改回必須上傳證件或自拍影片驗證。
微軟再次推遲 Recall 釋出：預覽測試延至 12 月
微軟宣佈再次延後 Copilot Plus PC 的 Recall 功能測試，由原定的 10 月推遲至 12 月面向 Windows Insiders 開放。官方表示需要更多時間重構安全體驗，包括將功能改為自選開啟、允許徹底解除安裝，並對資料庫進行嚴格加密與 Windows Hello 驗證。
ElevenLabs 開源 X to Voice：分析 X 賬號生成專屬音色
上週，ElevenLabs 推出開源專案 X to Voice 並上線 Voice Design API。輸入任意 X 使用者名稱，系統會自動分析其簡介與發帖風格，生成對應提示詞與 3 個音色樣本，還能讓頭像對嘴型朗讀。開發者也能直接呼叫 API 為 AI 角色定製聲音。
OpenAI 開源事實基準 SimpleQA：GPT-4o 正確率不足 40%
OpenAI 開源了事實性評測基準 SimpleQA。該資料集包含 4326 個答案固定且唯一的簡短事實問題，專為測試前沿模型的幻覺設計，目前 GPT-4o 的得分不到 40%。測試發現，雖然模型具備一定自我評估能力，但普遍存在過度自信的問題。
研究稱 OpenAI Whisper 頻發嚴重幻覺：部分測試虛構率達 80%
據美聯社報道，研究人員發現 OpenAI 的 Whisper 語音轉寫工具頻發「幻覺」，在密西根大學的一項測試中 80% 的音訊轉錄出現虛構內容，甚至憑空捏造醫療方案。儘管官方不建議用於高風險決策，但該模型已被廣泛接入醫療問診等場景。
微軟闢謠：並未偷偷安裝 Recall，完全可選且支援徹底解除安裝
針對社群關於 Windows 11 24H2 強制捆綁 Recall 的傳言，Microsoft 再次澄清該功能不僅是自願開啟，還允許使用者徹底解除安裝。專家指出當前系統殘留的引用只是微軟為了讓管理員更易移除該功能留下的空殼，目前測試版仍未正式推送。
OSI 正式釋出開源 AI 定義 1.0：Meta Llama 難再稱「開源」
開源促進會 OSI 正式釋出 1.0 版開源 AI 定義。新標準要求模型必須開放完整訓練程式碼，詳細披露訓練資料來源與獲取方式，且不得限制商業用途。按此標準，包含商業門檻的 Meta Llama 等主流模型均不算真正開源。
環球音樂聯手初創公司 KLAY：開發合規音樂大模型 KLayMM
環球音樂集團（UMG）宣佈與 AI 初創公司 KLAY 達成合作，共同開發注重版權倫理的音樂大模型 KLayMM。KLAY 承諾不會與流媒體曲庫競爭，並將提供精準歸屬機制。在起訴多家未授權 AI 公司後，UMG 正在拉攏正規軍探索商業化路徑。
Reddit 網友聯手放假訊息：用虛假推薦反制 Google AI 抓取
倫敦 Reddit 使用者故意在社群釋出虛假餐廳推薦，以防心儀地點被網紅打擾，結果直接帶偏了 Google AI Overviews 的搜尋摘要。這也暴露出 Google 每年斥資 6000 萬美元抓取論壇內容充當 AI 事實來源的固有漏洞。
加州 AI 深度偽造禁令被法官叫停：涉及哈里斯惡搞影片風波
美國聯邦地方法院法官發出初步禁令，暫時叫停加州剛簽署的 AI 深度偽造法案 AB 2839。該法原計劃允許強制下架誤導選民的政治深度偽造內容，但法官裁定其範圍過寬，可能傷及網路諷刺與政治批評。這意味著該法很難在下月大選前發揮作用。
哈佛學生爆改 Meta 智慧眼鏡：街頭掃臉即時開盒，手機秒彈路人住址與電話
兩名哈佛學生公佈名為 I-XRAY 的演示專案。他們將 Ray-Ban Meta 智慧眼鏡的直播畫面接入人臉識別引擎與公開資料庫，配合大模型自動檢索，能在幾秒內扒出陌生路人的姓名、住址和電話。作者表示不會公開發布該工具，此舉旨在提醒公眾防範現有技術被濫用。
用 Midjourney 獲獎的作者起訴版權局：有人抄我畫，害我損失百萬
據報道，曾用 Midjourney 創作並獲獎的 Jason M. Allen 向聯邦法院提起上訴，挑戰美國版權局對其作品《太空歌劇院》拒絕授予版權的裁定。Allen 稱有人在 OpenSea 和 Etsy 倒賣其作品，導致他損失慘重，主張輸入提示詞和後期調修應算作人類創作投入。
Anthropic 再挖角 OpenAI：聯合創始人 Durk Kingma 宣佈加盟
OpenAI 聯合創始人 Durk Kingma 宣佈加盟 Anthropic，將在荷蘭遠端辦公。他曾在 OpenAI 主導生成式 AI 演算法研發，後重返 Google Brain。這是繼 Jan Leike 和 John Schulman 之後，Anthropic 再次吸納 OpenAI 核心元老。
微軟升級 Copilot+ PC：螢幕隨時 Click to Do，Recall 變可選並加鎖
微軟為 Copilot+ PC 帶來一批端側 AI 功能。此前備受爭議的 Recall 改為預設關閉且必須通過 Windows Hello 解鎖；系統還新增了全域性互動工具 Click to Do、離線自然語言檔案搜尋，以及照片 8 倍超分。新功能 10 月起向 Windows Insider 使用者分批推送。