喬治·卡林遺產案和解：播客方同意永久下架 AI 仿造脫口秀
週二，已故傳奇喜劇演員喬治·卡林的遺產委員會與播客 Dudesy 創作者達成和解。被告方同意全面下架並永久停用卡林的聲音與肖像。該播客 1 月曾釋出聲稱由 AI 仿造的一小時專場。這起案件作為美國首批名人深度偽造訴訟之一，為未經許可數字復活逝者劃下紅線。
AI安全
檢視更新的新聞
Anthropic 發現多樣本越獄：塞幾十道問答就能繞開 AI 道德限制
Anthropic 披露了一種名為「多樣本越獄」的漏洞。利用大模型擴大的上下文視窗，攻擊者在提示詞裡塞入幾十組輕度違規問答作為示例，就能誘導 AI 順從回答製造炸彈等危險問題。目前團隊已將風險同步給同行，正嘗試在前置攔截環節進行防禦。
200 多位音樂人聯名抗議：別再用掠奪性 AI 偷走我們的聲音
Billie Eilish、Nicki Minaj、Katy Perry 等 200 多位知名音樂人簽署公開信，敦促科技公司停止未經許可使用其作品訓練 AI 音樂模型。信中警告，這類掠奪性行為正在盜用創作者的聲音與肖像，嚴重摧毀底層音樂人的生計。
Jon Stewart 吐槽 AI 虛假承諾：蘋果曾攔著不讓聊
主持人 Jon Stewart 在《每日秀》中炮轟科技巨頭對 AI 的誇大宣傳與裁員藉口。他還在採訪 FTC 主席 Lina Khan 時爆料，老東家 Apple 曾阻止他在 Apple TV+ 節目中討論 AI，甚至要求取消對 Khan 的採訪。
OpenAI 演示 Voice Engine：只需 15 秒音訊，但因安全風險暫不開放
OpenAI 展示了語音克隆模型 Voice Engine 的小規模測試進展。該模型僅憑 15 秒音訊樣本就能復刻逼真且帶情感的人聲。由於擔心深度偽造等濫用風險，官方暫不公開發布，並呼籲社會逐步淘汰銀行等系統的語音身份驗證。
紐約地鐵將測試 AI 槍支掃描器：把雨傘認成槍的 Evolv 入局
紐約市長 Eric Adams 宣佈將在地鐵閘口測試 AI 槍支檢測儀，測試將在 90 天后啟動。供應商 Evolv 雖在全美學校和場館鋪設甚廣，但其裝置曾把雨傘誤報為槍、漏檢真刀，目前正深陷 FTC、SEC 調查與股東訴訟。
美國聯邦機構新規：必須設立首席 AI 官，每年盤點 AI 風險
美國管理和預算局釋出新指南，強制所有聯邦機構設立首席 AI 官並組建治理委員會。各機構每年必須提交所用 AI 清單及風險應對方案，若無法落實防歧視等安全保護措施，必須立即停用相關係統。
Google AI 搜尋遭 SEO 投毒：推薦詐騙網站與惡意外掛
據 BleepingComputer 報道，Google SGE 生成式搜尋在摘要中推薦惡意網站。這些網站通過 SEO 投毒混入索引，並利用多重跳轉誘導使用者訂閱垃圾通知、偽造病毒警報推銷防毒軟體。Google 回應稱已按規定下架相關違規案例。
田納西州簽署《ELVIS 法案》：全美首個立法嚴打 AI 擬音侵權
週四，美國田納西州州長簽署《ELVIS 法案》，成為全美首個立法保護藝術家免受未授權 AI 擬音侵權的州。新法案將公開權延伸至 AI 領域，明確禁止未經許可模仿歌手聲音，法案定於 7 月 1 日正式生效。
GPT Store 淪陷：侵權、冒牌與洗稿工具氾濫
TechCrunch 調查發現 OpenAI 的 GPT Store 充斥著大量違規內容，包括未經授權的迪士尼與漫威角色、冒充名人的聊天機器人，以及宣稱繞過抄襲檢測的洗稿引流工具。儘管 OpenAI 設有稽核流程，但稽核力度顯然滯後，也給後續的開發者分成計劃埋下了法律與信任隱患。
Google 釋出 VLOGGER：一張照片配一段音訊，就能讓人物開口說話還帶手勢
Google 研究人員開發出多模態 AI 模型 VLOGGER，只需一張人物照片和一段音訊，就能生成對應口型、頭部動作和手勢的完整影片。與傳統方案相比，它無需針對單人專門微調，還能補全上半身動作。不過影片目前長度有限且背景固定，仍有少許瑕疵。
YouTube 出臺 AI 標註新規：逼真合成內容必須申報，違規或斷收益
YouTube 正式推行 AI 標註新規，要求創作者上傳逼真的 AI 生成或修改影片時必須主動宣告。涉及讓真人做沒做過的事或虛構真實場景，平臺會在簡介甚至影片畫面上打上標籤。寫指令碼等輔助用途不受限，但屢次瞞報可能被取消獲利資格。
IPO 前夕遇阻：FTC 就 AI 資料授權交易問詢 Reddit
Reddit 披露收到美國聯邦貿易委員會（FTC）問詢函，要求其說明向 Google 等第三方授權使用者帖子訓練 AI 模型的交易。Reddit 原計劃藉此創收 2.03 億美元為 IPO 造勢。監管機構介入意味著平臺轉賣使用者資料訓 AI 的合規風險正在放大。
不止 Gemini：測試顯示 Adobe Firefly 生成歷史人物同樣翻車
Semafor 測試發現，Adobe 的影像生成工具 Firefly 同樣出現了生成黑人納粹士兵等失真畫面的問題。最值得關注的是，即便只使用合規商業相簿訓練，防偏見的安全指令依然在歷史語境下過猶不及。Adobe 回應稱 Firefly 並非用於紀實，將持續微調修復。
歐洲議會正式通過《人工智慧法案》：全球首部 AI 全面監管法案敲定
歐洲議會以 523 票贊成正式通過《人工智慧法案》（EU AI Act）。該法規按風險把技術劃為四檔，對人臉抓取、社會評分等不可接受的場景直接禁止。法案預計 5 月底生效並於 2025 年起分階段落實，給全球科技巨頭劃清了紅線。
Google 限制 Gemini 回答選舉提問：涉及政客一律讓使用者去搜索
Google 證實已開始在全球限制 Gemini 回答與選舉相關的提問，目前已在美印等面臨大選的國家上線。使用者若詢問政黨或候選人，AI 會直接回復「還在學習中」並引導使用 Google 搜尋。面對虛假資訊與監管壓力，Google 寧可少答也不願踩政治雷區。
拜登在國情諮文發話：呼籲立法禁止 AI 聲音冒充與克隆
週四晚，拜登在國情諮文演講中呼籲立法禁止 AI 聲音冒充偽造。但他並未細化具體監管措施或懲罰手段，也未明確是否覆蓋文娛行業。此前好萊塢雖對聲音復刻達成授權協議，但 AI 擬真聲音已正式成為白宮重點防範的議題。
OpenAI 調查結束：Sam Altman 重返董事會，引入三位新董事
OpenAI 宣佈獨立調查結束，CEO Sam Altman 正式重返董事會。調查認定去年的解僱風波源於前董事會與管理層的信任破裂，而非產品安全或財務隱患。同時 OpenAI 引入了三位具備豐富政商背景的獨立董事，並設立匿名舉報熱線以強化內部治理。
Midjourney 封禁 Stability AI 全員：指責其爬取資料致系統宕機
Midjourney 宣佈無限期封禁競爭對手 Stability AI 的全體員工賬號。此前系統在 3 月 2 日遭遇異常流量並宕機 24 小時，調查發現對方員工批次爬取提示詞與影像對用於訓練。Midjourney 隨後立下新規：自動化爬取致服務中斷者，封禁全公司員工。
美陸軍在兵棋推演中測試 GPT-4：戰術更激進，但傷亡反而更高
據《新科學家》報道，美國陸軍研究實驗室正在軍事模擬遊戲中測試 OpenAI 的 GPT-4 Turbo 與 Vision 模型輔助戰術規劃。測試顯示 GPT-4 表現雖優於老模型，但在完成奪取據點等任務時造成的傷亡卻更高。這種激進決策讓軍用 AI 的倫理風險再次成為焦點。