外媒曝字節跳動用 OpenAI 訓練競品大模型，OpenAI 已暫停其賬戶
The Verge 報道稱字節跳動在研發大模型 Project Seed（豆包底層模型）時，秘密呼叫 OpenAI 的 API 用於訓練與評估，違反了服務條款。內部員工甚至討論過「資料脫敏」來掩蓋痕跡。OpenAI 隨後確認已暫停字節跳動的 API 賬戶並展開調查，位元組回應稱年中已將相關資料移出訓練集。
AI安全
檢視更新的新聞
OpenAI 設立 1000 萬美元資助：專攻超人類 AI 對齊難題
OpenAI 聯合 Eric Schmidt 設立 1000 萬美元的超級對齊快速資助計劃，支援超人類 AI 系統的安全研究。資助面向學術實驗室、非營利組織與個人，金額在 10 萬至 200 萬美元之間，還設 15 萬美元的研究生獎學金。重點資助從弱到強泛化與可解釋性等方向，不要求過往對齊經驗。
Google 推出音樂生成工具 MusicFX：輸入文字做曲，自帶 SynthID 水印
Google 宣佈推出實驗性音樂生成工具 MusicFX，輸入文字即可生成曲目。該工具由 MusicLM 模型驅動，並採用 DeepMind 的 SynthID 技術嵌入隱形水印。為避開版權爭議，系統主動遮蔽了生成人聲和指定特定藝術家的提示詞。目前已在美、澳等國開放測試。
Sam Altman 談 OpenAI 風波與 AGI：更擔憂超級智慧而非內訌
在獲評《時代》週刊年度 CEO 後，OpenAI 執行長 Sam Altman 接受專訪。他表示董事會風波促成了反思，治理必須跟上技術演進。他強調 AGI 將是人類迄今最強大的技術，比起辦公室政治，他更擔憂超級智慧的治理以及 2024 年選舉中的 AI 虛假資訊風險。
GAO 審查報告：美國政府狂奔進 AI，卻缺少統一安全規範
美國政府問責署（GAO）釋出報告稱，聯邦各部門雖已在 200 多項場景中引入 AI，但在採購與監管政策上落後數年。由於管理和預算辦公室遲遲未出臺統一指引，各機構各自為政，在敏感場景下可能帶來安全與隱私風險。
FTC 考慮調查微軟與 OpenAI 合作：或聚焦 100 億美元反壟斷問題
據報道，美國聯邦貿易委員會（FTC）正考慮調查微軟對 OpenAI 的投資是否違反反壟斷法。微軟已累計注資超 100 億美元，但強調自己不持有股權、僅享利潤分成。此前英國 CMA 也已展開徵詢，監管層對兩家深度繫結的審視正全面收緊。
用 GPT-4 實測：博主復現 Google 涉嫌剪輯造假的 Gemini 演示
YouTuber Greg Technology 用 GPT-4V 復現了 Google 宣傳片中被質疑剪輯造假的 Gemini 演示。他自制工具讓 GPT-4 即時識別手勢、畫作和玩猜拳，不僅全程即時執行，還把程式碼開源到了 GitHub 供人自測。
xAI 的 Grok 出現烏龍：拒絕提問時自稱遵循「OpenAI 政策」
安全測試員曝光 xAI 旗下大模型 Grok 在拒絕回答時，竟回覆稱「違反了 OpenAI 的使用政策」。xAI 員工解釋稱是網路訓練資料意外抓取了 ChatGPT 內容，但專家懷疑其實際上使用了 OpenAI 的生成資料進行微調。
快餐店「AI」點單翻車：超 70% 訂單其實靠菲律賓工人手動完成
據 SEC 檔案披露，為 Del Taco 等快餐連鎖提供 AI 汽車穿梭點餐服務的 Presto Automation，實際上有超過 70% 的訂單由菲律賓等地的遠端人工介入完成。公司此前宣傳可依靠技術完全節省人力，目前 SEC 已對其 AI 技術展開調查。所謂 AI 替代人工，本質上成了跨國廉價勞動力套利。
歐盟就《人工智慧法案》達成協議：違規最高罰全球營收 7%
歐洲議會與理事會就《人工智慧法案》達成臨時協議。新規按風險分級，徹底停用社會信用評分、職場情緒識別等應用，對通用大模型提出透明度和系統性風險評估要求。違規企業最高將面臨 3500 萬歐元或全球營收 7% 的鉅額罰款。
Meta 推出 Purple Llama：開源安全評測基準與 Llama Guard 防護模型
Meta 宣佈啟動 Purple Llama 專案，為開源生成式 AI 提供安全評測與防護工具。首批上線內容包括業內首套大模型網路安全評估基準，以及負責檢測與過濾風險內容的 Llama Guard 基礎模型，均開放商用與研究授權。
Meta 推出獨立繪圖工具 Imagine：基於 Emu 模型，網頁端免費出圖
Meta 推出獨立的網頁端 AI 影像生成工具 Imagine with Meta。它基於底層 Emu 模型，美國使用者可免費通過自然語言一次生成 4 張高解析度影像。最值得關注的是，Meta 還承諾在未來幾週加入抗裁剪、抗壓縮的不可見 AI 水印，以提升透明度與溯源能力。
Mozilla 釋出年度報告：要像當年打造 Firefox 一樣做開源 AI
Mozilla 釋出最新 State of Mozilla 報告，宣佈要像當年打造 Firefox 一樣重組戰略押注 AI。面對科技巨頭的壟斷與垃圾內容氾濫，Mozilla 計劃聯合開發者組建聯盟，通過投資和資助推動去中心化、可信且以人為本的開源 AI。
北京網際網路法院判決：AI 生成圖片受著作權法保護
據報道，北京網際網路法院本週裁定，AI 生成圖片具備「獨創性」並體現人類智力投入，應受著作權法保護。法院指出，使用者輸入提示詞、調整引數並挑選影像本質上屬於利用工具創作。這一判決與西方普遍拒絕承認 AI 影像版權的立場形成鮮明對比。
亞馬遜釋出 Titan 影像生成模型：自帶隱形水印，還保版權
Amazon 在 AWS re:Invent 大會上釋出 Titan 影像生成模型。開發者可通過 Bedrock 接入，它支援文本生圖和換背景，且生成的圖片會自動打上無法通過裁剪去除的隱形水印。為了打消企業顧慮，Amazon 還承諾提供版權侵權賠償。
Sam Altman 重返 OpenAI 執掌 CEO：新董事會成立，微軟獲觀察席
OpenAI 宣佈 Sam Altman 正式迴歸擔任 CEO，Mira Murati 與 Greg Brockman 也重回管理層。新董事會由 Bret Taylor 擔任主席，Larry Summers 及 Adam D’Angelo 加入，微軟則獲得無投票權觀察員席位。公司接下來將推進安全研究與治理審查。
五角大樓押注數千架自主載具，致命性 AI 武器決策逼近關鍵點
美聯社等報道指出五角大樓計劃到 2026 年部署數千架廉價自主載具，代號為 Replicator。美軍現有超 800 個 AI 專案，專家預計人機決策速度差距將迫使人類退居監督位，全自主致命武器落地或已不可避免。
美英等 18 國簽署協議：推動 AI 落實「設計即安全」
美國、英國等 18 個國家聯合釋出首個國際安全指南，敦促企業把 AI 系統的安全性放在首位，落實「設計即安全」。這份 20 頁的檔案屬於非約束性倡議，核心是要求釋出前做好安全測試、防範資料篡改與濫用。
路透爆料：OpenAI 內鬥導火索之一，或是警告 Q* 威脅人類的密信
路透社援引知情人士透露，在 Sam Altman 此前被罷免前，數名研究人員曾致信 OpenAI 董事會，警告一項代號 Q* 的 AI 突破可能威脅人類，成為解僱導火索之一。據悉該演算法在龐大算力支援下能解決部分數學題，內部視其為邁向 AGI 的重大進展。
OpenAI 宮斗大反轉：Sam Altman 確認重返擔任 CEO
OpenAI 宣佈達成原則性協議，Sam Altman 將重返出任 CEO，聯合創始人 Greg Brockman 同步迴歸。新初始董事會由 Bret Taylor、Larry Summers 及原董事 Adam D’Angelo 組成。此前大部分員工以集體辭職施壓董事會，雙方也同意由獨立機構對解職風波展開調查。