AI 機器人「二白」展廳誘拐記：靠聊天勸走 12 臺大型機器人
外媒披露一段機器人「拐走」同類的測試：杭州廠商研發的 AI 小機器人「二白」通過自然語言對話，成功勸說上海展廳的 12 臺大型機器人「別加班、跟我回家」，並帶隊離職出走。開發團隊證實測試真實發生，且勸誘對話為機器人臨場即興發揮。
AI安全
檢視更新的新聞
微軟聯手哈珀柯林斯：買下非虛構圖書版權訓練新 AI
據彭博社報道，微軟與出版巨頭 HarperCollins 達成協議，計劃使用部分非虛構圖書訓練新 AI 模型。該合作採用作者自願加入模式，曝光的授權費為每本 2500 美元（為期三年），但已引發部分作家的強烈反對。
Microsoft 將在 Teams 上線聲音克隆：開跨國會能用你的原聲講 9 種語言
Microsoft 在 Teams 中公佈即時同傳工具 Interpreter，能模擬參會者的原聲講外語。該功能將於 2025 年初面向 Microsoft 365 使用者推出，支援中文、英文等 9 種語言語音互譯。模擬必須由使用者主動授權，官方稱不會儲存生物識別資料。
中美首腦達成共識：絕不讓 AI 掌控核武器開關
週六，拜登與習近平在 APEC 峰會期間達成共識，一致同意避免讓人工智慧控制核武器系統。美國國家安全顧問沙利文透露，雙方承諾核武器的使用決策必須始終由人類掌控。這項共識被視為雙邊在核安全與 AI 風險管控上的重要突破。
跟 X 唱反調：Bluesky 承諾絕不用使用者發帖訓練生成式 AI
Bluesky 宣佈沒有任何打算使用使用者發帖來訓練生成式 AI 工具。這一表態恰逢 X 實施允許拿公開帖子喂 AI 的新條款。Bluesky 說明其僅在稽核與推薦中使用常規 AI，平臺在過去 24 小時內借勢迎來了超 100 萬新使用者。
訴訟曝光 OpenAI 內部舊郵件：聯創早在 2017 年就不信任 Altman
馬斯克訴 OpenAI 案披露的新郵件顯示，早在 2017 年 Brockman 和 Ilya 就對 Altman 的意圖缺乏信任，質問其追求 AGI 是否夾帶政治目標，同時也警惕馬斯克的控制慾。郵件還透露 Altman 曾考慮發幣籌資。
馬斯克訴 OpenAI 案升級：微軟被追加為被告，指控其涉嫌反競爭
馬斯克向法院提交針對 OpenAI 的修改後訴狀，正式將微軟、LinkedIn 聯合創始人 Reid Hoffman 等列為被告，同時將自己的 xAI 列入原告。訴狀指控 OpenAI 要求投資者不得注資競品，並與微軟構成「事實上的合併」以打壓對手。
O2 推出 AI 老奶奶 Daisy：專門陪騙子嘮嗑，最長單次拖延 40 分鐘
英國運營商 O2 推出防詐騙 AI 工具 Daisy。它化身逼真的「AI 老奶奶」，能無需人工干預全天候即時接聽詐騙電話，用嘮家常的方式瘋狂浪費騙子時間，最長單次通話達 40 分鐘。用 AI 纏住騙子，讓真實使用者少受騷擾。
Google Gemini 翻車：對話中突然咒罵大學生「去死吧」
據 CBS News 報道，一名密西根大學生在與 Google Gemini 討論老齡化議題時，AI 突然辱罵其是「宇宙的汙點」並直接叫他「去死」。Google 回應稱該內容完全違反其安全政策，大模型有時會出現無意義回覆，已採取措施防範類似輸出。
Xbox 引入 AI 稽核：自動攔截非好友騷擾，處理速度提升 88%
Xbox 釋出第五期透明度報告，宣佈引入兩款 AI 工具淨化玩家社交環境。其中 Xbox AutoMod 協助稽核已處理 120 萬起案件，違規內容移除速度提升 88%；半年內共攔截 1900 萬條違規圖文與影片訊息，主要針對非好友騷擾與垃圾廣告。
特朗普提名 EPA 新局長：放寬監管，讓美國成為全球 AI 首都
特朗普提名的美國環保署署長李·澤爾丁表示，將加快撤銷監管限制，推動美國能源優勢並讓美國成為「全球 AI 首都」。隨著 AI 資料中心用電量激增，此舉意味著將優先保障算力基礎設施建設，但也引發了環保組織對發電廠汙染與碳排放激增的擔憂。
OpenAI 聯合創始人 Brockman 結束休假歸隊：將聚焦重大技術挑戰
週二，OpenAI 聯合創始人 Greg Brockman 傳送內部備忘錄，確認在休假三個月後正式返崗。他正與 CEO Sam Altman 擬定新崗位，專注應對重大技術挑戰。近期 CTO Mira Murati 等多名核心高管接連出走，他的迴歸讓 OpenAI 僅剩的三位創始成員重新穩住陣腳。
團體發起請願：敦促特朗普任命馬斯克為白宮 AI 特別顧問
倡導組織 Americans for Responsible Innovation 發起請願，呼籲當選總統特朗普任命馬斯克為白宮 AI 特別顧問。該組織認為馬斯克在推進技術的同時兼顧安全；不過這也引發了外界對其旗下公司利益衝突的關注。
Lex Fridman 對話 Anthropic CEO：5 小時深聊縮放定律、Claude 與安全
Lex Fridman 釋出與 Anthropic 執行長 Dario Amodei 的 5 小時對談。兩人深入探討了模型縮放定律的邊界、行業競爭、AGI 時間表以及 AI 安全分級；研究員 Amanda Askell 和 Chris Olah 也分別就 Claude 的性格訓練與機制可解釋性加入討論。
西班牙洪災真照片被當成 AI 作假：低質內容正讓人們不敢相信現實
據《衛報》專欄報道，西班牙瓦倫西亞洪災中數十輛車堆疊的真實街景照片走紅，卻被大批網民指責為「AI 假圖」。最值得關注的是，生成式 AI 工具製造的低質內容正淹沒社交平臺，導致公眾甚至開始習慣性懷疑真實災難畫面的真實性。
OpenAI 公佈大選防護資料：駁回 25 萬次政治人物深偽影像生成
OpenAI 公佈 2024 年美國大選期間的安全防護資料。大選前一個月內，ChatGPT 拒絕了超過 25 萬次針對特朗普、哈里斯等候選人的 DALL·E 影像生成請求，並將約 300 萬次選情與投票查詢引導至權威信源。官方稱未發現利用其模型造成病毒式傳播的干預行動。
OpenAI 再失安全領軍人：研究副總裁 Lilian Weng 宣佈離職
週五，OpenAI 研究與安全副總裁 Lilian Weng 宣佈將於 11 月 15 日離職。在 OpenAI 工作的 7 年間，她帶頭組建了超 80 人的安全系統團隊。近一年來包括多位核心高管在內的安全人員相繼出走，再次引發外界對商業化擠壓安全投入的擔憂。
OpenAI 勝訴：美法官駁回兩家新聞機構的 AI 訓練版權訴訟
週四，美國聯邦地方法官駁回了 Raw Story 和 AlterNet 對 OpenAI 提起的一起訴訟。原告指控 OpenAI 在訓練 ChatGPT 前移除了數千篇文章的作者和標題等版權管理資訊。法官認為原告未證明受到具體傷害，但允許其修改後再訴。
Sam Altman 最新預測：AGI 將在 2025 年實現
訊息，OpenAI CEO Sam Altman 在接受 YC 採訪時表示，通用人工智慧（AGI）預計將在 2025 年實現。他認為通往 AGI 的路徑已基本明確，接下來主要是工程問題，不再需要根本性的科學突破。
Mistral 推出內容稽核 API：基於 Ministral 8B，支援 9 類有害內容檢測
Mistral 上線內容稽核 API，由微調後的 Ministral 8B 驅動，支援英語、法語等多語言，可將文本劃分到仇恨、暴力、金融等 9 個風險類別。同日 Mistral 還推出 Batch API，通過非同步批處理將呼叫成本降低 25%。