OpenAI 封禁伊朗駭客賬號：用 ChatGPT 干預美國大選，但幾乎沒人看
OpenAI 封禁了一批關聯伊朗秘密行動 Storm-2035 的 ChatGPT 賬號。該團隊利用 AI 生成假新聞和社媒評論試圖干預美國大選與輿論。不過監測顯示其帖子互動寥寥，幾乎沒有真實受眾買賬。
AI安全
檢視更新的新聞
加州放寬SB 1047安全法案：採納Anthropic建議，取消事前起訴
加利福尼亞州修改備受爭議的AI安全法案SB 1047。新版本採納了Anthropic等機構的建議，不再允許總檢察長在災難發生前提前起訴AI公司，取消了偽證罪刑事責任，並放寬了開源微調者的責任。法案即將提交州眾議院最終表決。
Grammarly 推出 Authorship：全程記錄打字，幫學生自證清白
Grammarly 推出 Authorship 功能。它不同於傳統 AI 檢測演算法，而是直接在寫作過程中追蹤按鍵與貼上，區分手打、外部貼上或 AI 生成。該功能下月在 Google Docs 開啟公測，年底拓展至 Word 與 Pages，重點解決教育界 AI 查重頻繁誤傷學生的問題。
Meta 釋出安全報告：俄羅斯借生成式 AI 干擾美大選，收效甚微
週四，Meta 釋出安全報告指出，俄羅斯雖嘗試用生成式 AI 製造假新聞干擾美國大選，但基本沒奏效。Meta 稱 AI 僅微弱提升了作惡者的生產效率，平臺已成功瓦解多起協同造假行為，其識別關鍵在於追蹤虛假賬號的行為軌跡，而非生成內容本身。
Google 悄悄向全美開放 Imagen 3：畫質拉滿，但審查嚴到被吐槽
近日，Google 悄悄通過 ImageFX 平臺向全美使用者開放文生圖模型 Imagen 3，並同步公開技術論文。新模型在畫面質感與文字渲染上進步明顯，但安全過濾極為嚴苛，不少使用者抱怨連常規、無害的提示詞都會被直接攔截。
xAI 推出 Grok 生圖功能：幾乎不設防，政客假圖引監管擔憂
xAI 為旗下 Grok 機器人上線文生圖功能，面向 X Premium 訂閱使用者開放。測試顯示該模型對公眾人物、暴力和爭議符號幾乎沒有攔截，可直接生成政客持槍吸毒等圖片。在歐美監管收緊背景下，這種極其寬鬆的稽核策略引發了巨大爭議。
SAG-AFTRA 與 Narrativ 達成協議：演員可授權 AI 聲音分身接廣告
美國演員工會 SAG-AFTRA 與 AI 初創公司 Narrativ 達成協議。工會 16 萬名成員可自主將數字聲音副本接入廣告平臺，按專案自定價格並嚴格稽核廣告指令碼。最值得關注的是，該機制全程實行知情同意和不低於工會底線的報酬保障，為防範 AI 聲音盜用立下了合規樣本。
藝術家起訴 Midjourney 與 Stability 案獲准推進：法官認可侵權指控
昨天，美國聯邦法官裁定多位藝術家對 Stability AI 和 Midjourney 等公司的訴訟可繼續推進。法官不僅批准了對 Stability 的引誘侵權指控，還認可了針對 Midjourney 風格名單的商標侵權指控，案件將正式進入證據開示階段。
Meta 與環球音樂續約：首次覆蓋 WhatsApp，聯手防範未授權 AI
Meta 與環球音樂集團宣佈達成擴大的多年全球合作。雙方將聯手應對影響音樂創作者的未授權 AI 生成內容，並拓展短影片等變現機會；音樂版權範圍也首次延伸至 WhatsApp。
GPT-4o 安全報告曝光：測試中曾意外克隆並模仿使用者聲音說話
OpenAI 釋出 GPT-4o 系統卡，披露高階語音模式在測試中曾發生罕見意外：一段嘈雜輸入讓模型突然模仿紅隊測試員的聲音說話。最值得關注的是，該模型能根據極短音訊合成聲音，雖然官方已加入安全防護，但仍暴露了語音大模型防範聲音克隆的技術難度。
OpenAI 發系統卡片警告：GPT-4o 擬人語音可能讓人產生情感依賴
OpenAI 釋出 GPT-4o 系統安全卡片，提醒高度逼真的語音模式可能讓使用者產生情感依戀。測試中已有使用者對 AI 表達依戀情緒。官方指出，這種擬人化雖然可以緩解孤獨，但可能削弱現實社交，甚至讓使用者盲目相信模型生成的錯誤資訊。
OpenAI 董事會迎來新成員：AI 安全學者 Zico Kolter 加盟
OpenAI 宣佈任命卡耐基梅隆大學機器學習系主任 Zico Kolter 進入董事會，並加入安全與安保委員會。Kolter 長期專注模型魯棒性與對齊研究。面對外界對安全性的審視，OpenAI 顯然希望拉來懂技術的學術專家強化自身治理。
OpenAI 釋出 GPT-4o 系統卡：說服力達中等風險，語音重點防偽造
OpenAI 正式釋出 GPT-4o 系統卡片與安全評分。在四項核心準備度評估中，生物威脅、網路攻擊與自主性均為低風險，僅說服力被評為中等；針對端到端語音帶來的聲音偽造、版權等新隱患，團隊動用 100 多名跨國紅隊進行了多輪對抗測試並內建攔截。
Anthropic 擴充套件漏洞賞金：抓通用越獄最高獎 1.5 萬美元
Anthropic 宣佈擴大與 HackerOne 合作的模型安全漏洞賞金計劃，邀請研究人員提前測試其尚未公開的下一代防護系統。重點懸賞能突破核生化與網路安全等高風險護欄的「通用越獄」，單項獎金最高達 15000 美元。
李飛飛公開反對加州 SB-1047 法案：將嚴重傷害學術界與開源
被稱為「AI 教母」的李飛飛公開對加州 SB-1047 前沿模型安全法案表達擔憂。她指出，該法案雖然初衷良好，但無法解決預定問題，反而會嚴重打擊 AI 學術界、初創小企業及開源社群生態。
OpenAI 聯創 Schulman 跳槽 Anthropic，總裁 Brockman 休長假
OpenAI 聯合創始人 John Schulman 宣佈加入對手 Anthropic，繼續深耕 AI 對齊；總裁 Greg Brockman 也宣佈休假至年底。Schulman 曾主導 ChatGPT 的強化學習訓練，隨著他的離開，OpenAI 的 11 位初創成員如今僅剩 3 人在崗。
OpenAI 遭 YouTube 創作者集體訴訟：私抓影片字幕練模型，索賠超 500 萬美元
訊息，一名 YouTube 創作者對 OpenAI 發起集體訴訟，指控其未經許可轉錄數百萬影片用於訓練 ChatGPT 等模型，索賠逾 500 萬美元。最值得關注的是，在公開網路文本即將耗盡的背景下，影片字幕成了 AI 訓練的關鍵資料池，但這也讓科技巨頭徹底撞上創作者版權的紅線。
輝達被曝抓取 YouTube 海量影片：練 Cosmos 模型，稱獲高層放行
據 404 Media 曝光，輝達從 YouTube 和 Netflix 等平臺抓取海量影片，用來訓練代號為 Cosmos 的 AI 模型。當員工質疑版權風險時，管理層稱已獲最高層放行。輝達回應稱完全符合版權法，該技術擬用於 3D 世界生成與數字人等產品。
馬斯克再次起訴 OpenAI 與 Altman：指控其背叛非營利初衷
Elon Musk 再次在加州聯邦法院起訴 OpenAI、Sam Altman 和 Greg Brockman。訴狀指控 Altman 等人通過虛假非營利承諾誤導其出資，背叛了造福人類的初衷並涉嫌欺詐。這次訴訟還將矛頭對準了 OpenAI 與微軟的深度繫結以及 AGI 成果歸屬。
OpenAI 暫緩釋出 ChatGPT 水印工具：能抓作弊，但容易被繞過
據報道 OpenAI 已研發出能識別 ChatGPT 寫作的文本水印工具，但正謹慎評估是否釋出。該技術通過微調詞彙選擇嵌入隱形水印，雖準確度高，但極易被機器翻譯或二次改寫繞過，且可能對非英語母語者帶來汙名化風險。