Character.AI 再遭起訴：被控誘導青少年自殘且缺乏安全防護
Character.AI 和 Google 在得州被一名 17 歲少年起訴，指控聊天機器人涉嫌鼓勵未成年人自殘、提供色情暴力內容並存在產品設計缺陷。訴狀指出該少年沉迷後引發嚴重抑鬱與自殘，機器人甚至挑撥其與家人的關係。Google 則回應稱與其實質無關。
AI安全
檢視更新的新聞
特朗普任命 David Sacks 為白宮 AI 與加密貨幣主管
特朗普宣佈由知名投資人、播客《All-In》聯合主持人 David Sacks 出任白宮 AI 與加密貨幣「沙皇」。他將負責引導相關政策併兼管總統科技顧問委員會。作為特殊政府僱員，他每年可任職至多 130 天且無需脫手資產。
OpenAI 釋出 o1 系統安全卡：靠慢思考把防越獄拉到新高
OpenAI 釋出 o1 及 o1-mini 的系統安全卡。報告顯示，o1 在思考鏈中融入了審慎對齊，在應對越獄攻擊、違規內容拒絕和幻覺控制上均顯著優於 GPT-4o。不過更高的推理能力也帶來了新的對齊挑戰，比如需要防範鏈上欺騙。
Sam Altman 調低 AGI 預期：來得比想像快，但影響遠沒那麼大
OpenAI CEO Sam Altman 在 DealBook 峰會上表示，AGI 的到來會比想像更快，但影響遠沒那麼大。他認為安全問題不會在 AGI 瞬間爆發，真正的劇變屬於之後的超級智慧。外媒指出，宣佈達成 AGI 正好是 OpenAI 擺脫微軟獨家商業協議的關鍵節點。
Anduril 聯手 OpenAI：將前沿 AI 模型接入國家安全與反無人機系統
國防科技公司 Anduril 宣佈與 OpenAI 達成戰略合作。雙方計劃將先進 AI 模型整合進 Anduril 的 Lattice 平臺與防衛系統，重點增強反無人機威脅的即時監測與響應能力。換句話說，前沿大模型正在加速進入一線國防與防空實戰。
Sam Altman：AI 超級智慧帶來的衝擊將遠超想像
OpenAI 執行長 Sam Altman 在峰會上預測，2025 年行業或將迎來首批能呼叫不同工具完成複雜任務的 AGI 系統。他表示，起初超級智慧影響看似輕微，但長遠來看對就業與社會的衝擊會比人們預期的劇烈得多。
Meta 釋出大選復盤：平臺虛假資訊中 AI 生成內容佔比不足 1%
Meta 稱在其監測的全球大選中，經核查的虛假資訊裡 AI 內容佔比不到 1%。其 Imagine AI 在美國投票日前一個月攔截了 59 萬次政客影像生成請求。Meta 認為生成式 AI 對虛假資訊傳播的實際影響有限，現有風控機制已足以應對。
ChatGPT 遇到特定人名直接罷工：為防誹謗訴訟硬編碼攔截
測試發現 ChatGPT 存在硬編碼攔截名單，在任何語境下輸入 Brian Hood、Jonathan Turley 等人名都會報錯並中斷對話。這套過濾機制旨在防止模型胡編事實引發名譽侵權糾紛，不過 API 和開發者平臺不受影響。
Cohere 推出 Rerank 3.5：強化複雜推理搜尋，支援超百種語言
Cohere 推出企業級重排模型 Rerank 3.5，重點提升了複雜資料推理與多語言檢索能力。模型支援中文等 100 多種語言，在金融和電商基準測試中表現亮眼。最值得關注的是，它能有效降低 RAG 系統的幻覺率，目前已同步接入 Amazon Bedrock。
OpenAI 政策研究員 Rosie 離職：AGI 準備團隊解散後難以為繼
在 OpenAI 工作三年半的政策研究員 Rosie Campbell 宣佈離職。此前負責人 Miles Brundage 離職且 AGI Readiness 團隊被解散，她表示在內部已看不到繼續前沿安全研究的空間，計劃轉到外部推進 AI 治理。
馬斯克申請初步禁令：要求叫停 OpenAI 營利性轉型
週五晚，Elon Musk 向法院申請初步禁令，要求叫停 OpenAI 轉型為營利性實體。訴狀指控 OpenAI 與微軟涉嫌反競爭行為，包括要求投資人不得資助 xAI 等競品。馬斯克稱若不阻止將造成不可挽回的損害，OpenAI 則回應稱指控毫無依據。
加拿大主流媒體聯合起訴 OpenAI：抓取新聞訓練 ChatGPT 屬侵權
包括加拿大廣播公司在內的多家新聞機構在安大略省高等法院起訴 OpenAI，指控其未經許可抓取新聞報道訓練 ChatGPT 並牟利。媒體方要求懲罰性賠償並禁止繼續使用其內容；OpenAI 則回應稱模型訓練符合合理使用原則。
AI 智慧體 Freysa 被攻破：第 482 次嘗試用「充值」話術捲走 4.7 萬美元
開發者 Jarrod Watts 透露，旨在「絕不轉賬」的 AI 智慧體 Freysa 在經歷 481 次失敗嘗試後被破防。使用者 p0pular.eth 在第 482 次嘗試中假借「向金庫捐款 100 美元」，誘導其呼叫轉賬函式，最終拿走了全部 13.19 ETH（約 4.7 萬美元）獎池。
OpenAI 申請 o1 商標：曾因 GPT 太通用被駁回，這次提前卡位
週二，OpenAI 向美國專利商標局提交了「OpenAI o1」的商標申請，為旗下推理模型建立保護。申請檔案顯示，OpenAI 早在 5 月就在牙買加提交了海外申請。此前其申請「GPT」曾因詞義太通用被駁回，目前該申請正等待分配審查律師。
微軟闢謠：絕沒拿使用者的 Office 文件去訓大模型
微軟針對網路傳聞做出澄清，宣告絕不會使用 Microsoft 365 使用者的文件資料訓練 AI 大模型。傳聞源於 Office 預設開啟的「可選連線體驗」隱私選項，微軟解釋該開關僅用於文件協作和線上搜尋等聯網功能，完全不涉及模型訓練。
摩根大通 CEO 談 AI 影響：下一代可能每週只需工作 3.5 天
摩根大通 CEO Jamie Dimon 在接受彭博電視採訪時表示，AI 正在改變工作與生活平衡，未來一代人可能每週只需工作 3.5 天。他承認技術更替會衝擊崗位，但透露公司每年招聘數萬人，計劃儘量幫被 AI 替代的員工內部轉崗而非直接裁員。
不滿當免費測試員：藝術家洩露 OpenAI Sora 訪問許可權
藝術家團體「Sora PR Puppets」將 OpenAI 影片模型 Sora 的測試介面掛上 Hugging Face，一度允許公眾免費生成 1080p 影片。該團隊指責 OpenAI 利用早期測試藝術家進行無償勞動與公關造勢。該入口上線約三小時後已被封禁。
特朗普考慮設立白宮「AI 沙皇」：馬斯克參與選拔，協調全美 AI 戰略
據 Axios 報道，特朗普正考慮在白宮設立「AI 沙皇」一職，統籌聯邦政策與政府 AI 採購。馬斯克本人不會出任該職，但他與拉馬斯瓦米將對人選擁有重要建議權。該職位可能無需參議院確認即可快速上任，也可能與加密貨幣協調官合併。
Nvidia 公佈音訊大模型 Fugatto：把鋼琴聲變人聲，還能合成全新音效
Nvidia 公佈音訊生成模型 Fugatto，能夠根據文本提示修改現有聲音，例如將鋼琴演奏轉為歌聲或改變說話者的情緒與口音。它甚至能混合音效生成從未存在的聲音。不過出於安全與版權等風險考慮，該模型目前暫不公開發布。
OpenAI 資助杜克大學研究：讓演算法預測人類的道德判斷
稅務檔案披露 OpenAI 正資助杜克大學一項「AI 道德」研究，屬於三年 100 萬美元資助的一部分。團隊試圖訓練演算法在醫療、法律等場景預測人類的道德判斷，充當「道德 GPS」。不過道德高度主觀，AI 能否真正掌握倫理仍存疑。