英政府獲優先權：OpenAI、DeepMind 開放模型用於安全評估
英國首相蘇納克在倫敦科技周宣佈，Google DeepMind、OpenAI 和 Anthropic 已同意向英國政府開放其 AI 模型用於安全評估。官方藉此摸清系統風險，並出資 1 億英鎊設立基礎模型任務組，不過具體監管細則尚未公佈。
AI安全
檢視更新的新聞
Google 推出 SAIF 框架：給大模型防禦提示注入與資料投毒
Google 推出安全人工智慧框架 SAIF，提出六大核心原則。該框架借鑑軟體供應鏈防護經驗，重點應對模型竊取、提示詞注入和資料投毒等 AI 專屬威脅，旨在為企業落地生成式 AI 建立類似「零信任」的安全通用標準。
德桑蒂斯競選廣告用 AI 偽造圖片：特朗普「擁抱福奇」引爭議
據 The Verge 報道，德桑蒂斯競選團隊釋出了一支攻擊特朗普的影片，其中混入了 3 張由 AI 生成的特朗普擁抱福奇的虛假照片。專家指出畫面存在皮膚失真、背景標牌亂碼等破綻。這種真假混剪的手法，反映出深度偽造正加速滲透政治宣傳。
堪薩斯大學開發學術 AI 偵測器：識別 ChatGPT 論文準確率超 99%
堪薩斯大學團隊訓練出一種機器學習演算法，專門識別 ChatGPT 撰寫的學術論文，整篇識別準確率達 100%，段落級達 92%。它主要通過詞彙豐富度、段落長度和標點差異來判別。不過測試樣本量較小，對人類微調過的文本識別能力仍存疑。
OpenAI 遭首例誹謗起訴：ChatGPT 憑空捏造電臺主持人貪汙 500 萬美元
OpenAI 遭遇首起針對 ChatGPT 生成虛假資訊的誹謗訴訟。喬治亞州一名電臺主持人起訴稱，ChatGPT 在總結案件時憑空捏造其貪汙逾 500 萬美元。這起訴訟將檢驗 AI 捏造虛假資訊是否適用於平臺免責保護。
庫克透露自己也在用 ChatGPT：蘋果正密切關注，企業須自律監管
Apple CEO Tim Cook 在採訪中透露自己平時也在用 ChatGPT，並表示蘋果正密切關注該技術。他指出大語言模型很有前景，但也存在偏見與虛假資訊等隱患；由於技術演進太快讓法律監管很難跟上，AI 公司自身必須承擔起倫理自律的責任。
歐盟敦促 Google 與 Meta：立即標註 AI 生成內容
歐盟敦促 Google、Facebook 等平臺立即對 AI 生成的圖文內容新增清晰標註，以打擊虛假資訊傳播。歐盟要求標籤必須足夠顯眼，讓使用者刷手機時一眼就能看懂「這是機器人在說話」；同時警告退出自願準則的 Twitter 將面臨嚴厲監管與重罰。
數百位行業領袖聯名警告：應將防範 AI 滅絕風險列為全球優先事項
CAIS 釋出聯合宣告，呼籲將防範 AI 滅絕風險列為與大流行病、核戰爭同等的全球優先事項。包括 Sam Altman、Demis Hassabis 以及 Geoffrey Hinton 在內的數百位行業領袖均聯名簽署，旨在促使各界正視先進 AI 的極端風險。
日本明確 AI 版權規則：只要不為欣賞原作，版權內容可直接用於訓練
日本官方明確生成式 AI 的版權邊界：依據現行著作權法，只要目的不是享受原作的創作表達，開發者即可在訓練中自由分析受保護內容，商業模型同樣適用。這一舉措旨在降低研發壁壘並吸引投資，但也引發了動漫、遊戲等創作者對缺乏補償和風格被仿製的擔憂。
紐約律師用 ChatGPT 編造判例被抓包：不僅全屬虛構，還截圖當證據提交
紐約一名律師在訴訟中藉助 ChatGPT 查詢判例，因大模型嚴重幻覺引用了 6 起憑空捏造的案件。在法官要求提供判決書時，他竟再次用 ChatGPT 編造全文並截圖提交。目前聯邦法官已下達命令，涉事律師面臨違規制裁聽證。
OpenAI 發放 10 個 10 萬美元資助：徵集 AI 規則民主治理方案
OpenAI 宣佈設立資助計劃，發放 10 個 10 萬美元資助金，支援團隊實驗如何通過民主程式決定 AI 應遵守的規則。獲選團隊需在 10 月 20 日前交付包含至少 500 名參與者的實驗原型與公開報告，成果全部開源。OpenAI 希望藉此探索由公眾廣泛參與的治理機制。
奧特曼放話：若無法滿足歐盟 AI 監管新規，OpenAI 可能退出歐洲
OpenAI CEO Sam Altman 週三在倫敦表示，若無法滿足歐盟《人工智慧法案》的要求，公司可能會停止在歐盟運營。他質疑將 ChatGPT 等大模型列為「高風險」的做法，強調會盡力配合但存在技術極限。
AI 偽造「五角大樓爆炸」圖瘋傳：美股一度跳水，官方急闢謠
一張疑似 AI 生成的五角大樓爆炸假圖在 Twitter 瘋傳，包括俄羅斯 RT 等大號轉發。美股在 4 分鐘內跳水 0.26%，隨後反彈。當地消防部門迅速闢謠澄清並無事故，網友也指出了圍欄扭曲等典型 AI 生成破綻。
OpenAI 談超級智慧治理：呼籲建立類似 IAEA 的國際監管機構
OpenAI 呼籲各界提前治理「超級智慧」，提出建立類似國際原子能機構（IAEA）的國際監管機構，對高算力前沿模型進行審計與合規檢查；同時建議豁免低於門檻的開源與普通模型，避免阻礙技術創新。
防洩密：Apple 限制員工使用 ChatGPT 與 GitHub Copilot
據《華爾街日報》等報道，Apple 已限制員工使用 ChatGPT 及 GitHub Copilot 等外部 AI 工具，擔心機密資料洩露或被用於模型訓練。OpenAI 預設儲存對話，即使關閉歷史記錄也會保留 30 天。此前摩根大通、亞馬遜也出臺了類似禁令。
域名帶「GPT」也不行：OpenAI 開始發函清退相關第三方域名
開發者在 Hacker News 透露收到代表 OpenAI 的維權信，要求下架包含「GPT」字樣的域名。郵件指出直接在產品名或域名中使用 GPT 會引起使用者混淆並涉嫌侵權，即使該域名還是個空白頁面。開發者只能在介紹中寫「Powered by」，不能把模型名塞進名字裡。
Sam Altman 國會聽證會：主動呼籲監管，建議對尖端 AI 設許可門檻
OpenAI CEO Sam Altman 在美國參議院聽證會上呼籲加強 AI 監管。他建議政府對高複雜度模型實施許可或註冊制，並要求上線前進行內外部安全測試。這一表態被視為科技巨頭主動介入規則制定的關鍵一步。
納德拉駁斥馬斯克：微軟沒控制 OpenAI，由非營利董事會掌舵
微軟 CEO 納德拉否認了馬斯克關於微軟實際控制 OpenAI 的說法。他表示微軟只持有非控股權益與商業合作關係，OpenAI 始終由非營利董事會掌控；同時小公司依然有機會與巨頭競爭，AI 不會只是微軟和 Google 的雙雄爭霸。
馬斯克稱自己是 OpenAI 存在的原因：起了名字還投了 5000 萬美元
Elon Musk 在接受 CNBC 採訪時稱，自己是「OpenAI 存在的原因」。他表示自己當年為公司起了名字、招募了核心人才，並投入了約 5000 萬美元。Musk 批評當前 OpenAI 不夠重視安全且受微軟控制，但微軟對此予以堅決否認。
Sam Altman 首次國會作證：呼籲設立新機構與許可制監管 AI
OpenAI CEO Sam Altman 首次出席美國參議院聽證會，呼籲政府對前沿 AI 建立監管框架與許可制度。兩黨議員強調不能重蹈社交媒體監管失控的覆轍，並稱贊 Altman 展現出的合作意願與以往科技巨頭截然不同。