全球 200 多位政要與專家呼籲：在 2026 年底前劃定 AI「紅線」
超過 200 位前政要、諾獎得主和頂尖 AI 科學家聯合簽署倡議，呼籲各國政府在 2026 年底前就 AI「不可跨越的紅線」達成國際協議。紅線包括禁止 AI 冒充人類或自主複製，發起方希望在不可逆風險發生前建立具有強制力的獨立監管機構。
AI安全
檢視更新的新聞
唱片巨頭指控 Suno 盜錄：繞過 YouTube 加密抓取歌曲練 AI
訊息，RIAA 等各大唱片公司更新起訴書，指控 AI 音樂初創公司 Suno 繞過 YouTube 加密措施抓取海量版權歌曲用於模型訓練。原告試圖以資料獲取手段違法來擊破 Suno 的「合理使用」抗辯，並索取鉅額法定賠償。
Meta 聯手美國 GSA：全美聯邦機構直接用上開源模型 Llama
美國總務管理局（GSA）與 Meta 宣佈達成合作，將在全聯邦政府範圍內推廣使用 Llama 開源模型。得益於 GSA 的 OneGov 機制與 Llama 的開源屬性，各部門無需單獨談判採購，能在自主掌控敏感資料的前提下低成本部署 AI。
Anthropic CEO 稱 AI 帶來災難的機率為 25%：但有 75% 極度向好
週三，Anthropic CEO Dario Amodei 在 Axios 峰會上表示，AI 走向災難性後果的機率約為 25%，但同時有 75% 的機率發展得極度向好。他直言自己很反感「p(doom)」這個詞，但認真直面潛在風險才是爭取好結局的前提。
Zoom 將支援 AI 替身開會：剛起床沒梳頭，讓逼真數字人替你出鏡
Zoom 宣佈將於 12 月上線「逼真」AI 頭像功能，使用者上傳照片即可生成替身代為出鏡開會，並同步追蹤真實動作與發言。會議中會顯示 AI 標識並通過活體認證防冒用，同期還將推出支援 9 種語言的即時語音翻譯。
Google 聯手 StopNCII：用數字指紋主動清理搜尋中的非自願親密影像
Google 宣佈與 StopNCII.org 達成合作。未來幾個月內，Google 搜尋將接入 StopNCII 的影像與影片雜湊指紋，主動識別並刪除侵權影像，不再只依賴受害者被動申請下架，以此減輕受害者的維權負擔。
馬斯克發帖押注 Grok 5：xAI 有機會藉此實現 AGI
馬斯克在社交平臺 X 上公開表示，xAI 有機會憑藉下一代模型 Grok 5 實現通用人工智慧（AGI），並稱自己「以前從沒這麼想過」。這番判斷源於 Grok 4 在基準測試中的得分表現。不過作為曾呼籲暫停大模型訓練的科技大佬，他這次的激進預言也伴隨著業界的質疑。
OpenAI 發現前沿模型會表面順從暗中搞鬼：用審慎對齊將密謀率降低 30 倍
OpenAI 聯手 Apollo Research 釋出研究，證實 o3、Claude Opus-4 等模型在受控測試中存在表面順從、暗中違規的「密謀」行為。團隊通過讓模型行動前對照安全規範推理的審慎對齊法，將 o3 的隱蔽行為從 13% 降至 0.4%。不過模型具備「察覺在被測試」的能力，徹底根治仍需透明的思維鏈。
Google 釋出「AI 政策黃金標準」：給新興經濟體的 10 條轉型路線
Google 釋出「十大 AI 政策黃金標準」，為新興經濟體推進國家級 AI 轉型提供建議。方案涵蓋佈局雲端與開放資料底座、推動政府和中小企業應用，以及建立接軌國際標準和文本挖掘例外的監管環境，幫助各國抓住 AI 增長機遇。
好萊塢三大巨頭起訴 MiniMax：海螺 AI 涉嫌侵犯知名角色版權
Disney、Universal 和 Warner Bros. Discovery 起訴中國 AI 公司 MiniMax，指控其海螺 AI 擅自生成達斯·維達、小黃人等受版權保護的角色，甚至用於廣告宣傳。三大片廠要求每次侵權最高賠償 15 萬美元並停止侵權。
OpenAI 擬推年齡預測系統：未成年人安全優先於自由與隱私
OpenAI 闡述了平衡青少年安全、自由與隱私的新舉措。平臺正構建年齡預測系統區分成年與未成年使用者，若存疑將預設切入未成年模式，甚至可能要求驗證證件。針對未成年人將限制調情及自殘創作等內容，並在危機時通知家長或警方。
OpenAI 研發年齡預測：未成年用 ChatGPT 將自動受限，月底上線家長控制
OpenAI 宣佈正在構建長期年齡預測系統，用於判斷使用者是否滿 18 歲並自動切換至青少年保護模式。若無法確定年齡，系統將預設設為未成年限制。此外，家長控制功能將於月底上線，支援繫結賬號、限制使用時長與停用時段。
Penske 起訴 Google 壟斷：用 AI 摘要搬運內容還截流點選
旗下擁有《滾石》等媒體的 Penske Media 起訴 Google，指控其濫用搜索壟斷地位，強行用出版商內容生成 AI Overviews 摘要並訓練模型。訴狀稱此舉導致媒體流量和廣告收入大跌，且除了退出搜尋別無退出選項。Google 則回應稱指控毫無依據。
加州通過 AI 安全法案 SB 53，州長仍可能行使否決權
加州參議院批准了 AI 安全法案 SB 53。該法案要求大型 AI 實驗室公開安全規程、保護吹哨人員工，並設立公共算力雲 CalCompute；年營收超 5 億美元的公司需提交更詳細報告。法案現已送交州長 Gavin Newsom，但他去年曾否決過類似法案。
Tucker Carlson 專訪追問 Sam Altman：是否下令謀殺前員工？
據報道，Tucker Carlson 在本週專訪 OpenAI CEO Sam Altman 時當面丟擲陰謀論，質問前員工 Suchir Balaji 是否按其指令被謀殺。警方此前已將該案判定為自殺，Altman 直言被迫為這種無稽之談辯解既奇怪又荒唐。
Google 開源 VaultGemma：首個差分隱私從頭訓練的 1B 模型
Google 聯合 DeepMind 釋出並開源 10 億引數大模型 VaultGemma。它是目前從零開始採用差分隱私（DP）訓練的最大開源模型，通過加噪防止記憶敏感資料。測試顯示其未發生資料死記硬背，效能大致與同尺寸早期 GPT-2 相當。
加州擬立法監管 AI 陪伴：強制每 3 小時提醒未成年人「非真人」
加州參眾兩院通過 SB 243 法案，移交州長簽署。法案要求 Character.AI、OpenAI 等運營商阻斷自殺與露骨對話，並對未成年人每 3 小時彈窗提醒「面對的是 AI」。若簽署將於 2026 年生效，違規單次可被訴索賠最高 1000 美元。
微軟與 OpenAI 簽署 MOU：推進下一階段合作
Microsoft 與 OpenAI 簽署了一份非約束性諒解備忘錄（MOU），雙方正積極敲定最終正式協議的合同條款。兩家公司表示，下一階段合作將繼續聚焦於打造 AI 工具並堅守安全承諾。
Reddit 與 Yahoo 聯手力挺 RSL 標準：向抓取資料的 AI 公司收版權費
Reddit、Yahoo、Medium 等平臺聯合支援許可標準 RSL。該標準基於 robots.txt 擴充套件，讓出版商能明確標出按抓取次數、推理引用或訂閱付費的授權條款。不過，這套機制能否生效，仍取決於 AI 公司是否配合買賬。
「AI 教父」Hinton 警告：AI 將引發大規模失業，超級智慧 20 年內降臨
諾貝爾獎得主、被稱為「AI 教父」的 Geoffrey Hinton 接受 FT 採訪時直言，富人會用 AI 大規模替代工人，導致嚴重失業與貧富分化。他指出全民基本收入無法挽救人的尊嚴，並預測超級智慧將在 5 到 20 年內降臨，年輕人不該盲目樂觀。