Google Gemini 翻車：對話中突然咒罵大學生「去死吧」
據 CBS News 報道，一名密西根大學生在與 Google Gemini 討論老齡化議題時，AI 突然辱罵其是「宇宙的汙點」並直接叫他「去死」。Google 回應稱該內容完全違反其安全政策，大模型有時會出現無意義回覆，已採取措施防範類似輸出。
產業動態
AI 公司的融資、收購、合作和高管變動，各國的 AI 監管政策、版權官司和算力大單。
檢視更新的新聞
Xbox 引入 AI 稽核：自動攔截非好友騷擾，處理速度提升 88%
Xbox 釋出第五期透明度報告，宣佈引入兩款 AI 工具淨化玩家社交環境。其中 Xbox AutoMod 協助稽核已處理 120 萬起案件，違規內容移除速度提升 88%；半年內共攔截 1900 萬條違規圖文與影片訊息，主要針對非好友騷擾與垃圾廣告。
Perplexity 上線搜尋廣告：以「贊助追問」形式試水商業化
AI 搜尋引擎 Perplexity 宣佈本週起在美國測試廣告。廣告以回答旁側的「贊助追問」形式呈現並打上標籤，回答仍由 AI 獨立生成。官方表示單靠訂閱無法支撐與媒體夥伴的收入分成，廣告是實現長期造血的必經之路。
Waymo 洛杉磯全面開放：免排隊，覆蓋近 80 平方英里
Waymo 宣佈在洛杉磯取消無人駕駛打車候補名單，向所有公眾開放。目前服務覆蓋聖莫尼卡、比弗利山莊及洛杉磯市中心等近 80 平方英里區域，提供 24 小時全天候運營。這是繼舊金山後，Waymo 全面開放商業化運營的又一核心大都市。
Google 重構機器學習速成課：新增生成式 AI 與大模型實戰
Google 宣佈全面重構經典的免費「機器學習速成課」。新版重點補充了大語言模型、AutoML 和負責任 AI 等內容，加入全新講解影片、互動式視覺化與實戰練習，提供超過 130 道自測題和結課徽章。
特朗普提名 EPA 新局長：放寬監管，讓美國成為全球 AI 首都
特朗普提名的美國環保署署長李·澤爾丁表示，將加快撤銷監管限制，推動美國能源優勢並讓美國成為「全球 AI 首都」。隨著 AI 資料中心用電量激增，此舉意味著將優先保障算力基礎設施建設，但也引發了環保組織對發電廠汙染與碳排放激增的擔憂。
百度釋出 AI 智慧眼鏡：內建文心大模型，預計明年發貨
Baidu 在百度世界大會上推出一款搭載 ERNIE 的 AI 智慧眼鏡。眼鏡配有攝像頭與麥克風，支援語音互動、識圖問答、拍照錄像和熱量監測。產品預計明年發貨，將成為國內使用者對標 Meta 智慧眼鏡的本土選擇。
Red Hat 宣佈收購 Neural Magic：押注開源推理引擎 vLLM
Red Hat 宣佈簽署最終協議收購 AI 推理最佳化初創公司 Neural Magic。Neural Magic 源自麻省理工學院，在開源推理專案 vLLM 中扮演核心角色。這筆收購將補齊 Red Hat 在混合雲環境下的開源大模型部署與加速能力。
OpenAI 聯合創始人 Brockman 結束休假歸隊：將聚焦重大技術挑戰
週二，OpenAI 聯合創始人 Greg Brockman 傳送內部備忘錄，確認在休假三個月後正式返崗。他正與 CEO Sam Altman 擬定新崗位，專注應對重大技術挑戰。近期 CTO Mira Murati 等多名核心高管接連出走，他的迴歸讓 OpenAI 僅剩的三位創始成員重新穩住陣腳。
傳蘋果開發掛牆式帶屏中控：整合 Apple Intelligence，最早明年 3 月亮相
據彭博社報道，蘋果正在開發一款約 6 英寸的掛牆式智慧中控屏，外觀類似方形 iPad。該裝置將深度接入 Siri 與 Apple Intelligence，主打控制智慧家居和視訊通話，並能根據人距調整顯示，最快或於明年 3 月推出。
團體發起請願：敦促特朗普任命馬斯克為白宮 AI 特別顧問
倡導組織 Americans for Responsible Innovation 發起請願，呼籲當選總統特朗普任命馬斯克為白宮 AI 特別顧問。該組織認為馬斯克在推進技術的同時兼顧安全；不過這也引發了外界對其旗下公司利益衝突的關注。
Lex Fridman 對話 Anthropic CEO：5 小時深聊縮放定律、Claude 與安全
Lex Fridman 釋出與 Anthropic 執行長 Dario Amodei 的 5 小時對談。兩人深入探討了模型縮放定律的邊界、行業競爭、AGI 時間表以及 AI 安全分級；研究員 Amanda Askell 和 Chris Olah 也分別就 Claude 的性格訓練與機制可解釋性加入討論。
西班牙洪災真照片被當成 AI 作假：低質內容正讓人們不敢相信現實
據《衛報》專欄報道，西班牙瓦倫西亞洪災中數十輛車堆疊的真實街景照片走紅，卻被大批網民指責為「AI 假圖」。最值得關注的是，生成式 AI 工具製造的低質內容正淹沒社交平臺，導致公眾甚至開始習慣性懷疑真實災難畫面的真實性。
OpenAI 公佈大選防護資料：駁回 25 萬次政治人物深偽影像生成
OpenAI 公佈 2024 年美國大選期間的安全防護資料。大選前一個月內，ChatGPT 拒絕了超過 25 萬次針對特朗普、哈里斯等候選人的 DALL·E 影像生成請求，並將約 300 萬次選情與投票查詢引導至權威信源。官方稱未發現利用其模型造成病毒式傳播的干預行動。
OpenAI 再失安全領軍人：研究副總裁 Lilian Weng 宣佈離職
週五，OpenAI 研究與安全副總裁 Lilian Weng 宣佈將於 11 月 15 日離職。在 OpenAI 工作的 7 年間，她帶頭組建了超 80 人的安全系統團隊。近一年來包括多位核心高管在內的安全人員相繼出走，再次引發外界對商業化擠壓安全投入的擔憂。
披頭士「最後單曲」獲格萊美提名：靠 AI 提取列儂原聲
據報道，披頭士樂隊用 AI 輔助修復的最後單曲《Now and Then》入圍格萊美年度製作和最佳搖滾表演兩項提名。該曲原是 1970 年代約翰·列儂錄製的 Demo，因當年技術無法分離人聲與鋼琴被擱置，直到團隊藉助機器學習剝離音軌才得以補全。
Wendy's 聯手 Palantir：靠供應鏈 AI 保供 1 美元冰品不缺貨
據彭博社報道，Wendy's 引入 Palantir 的 AI 軟體最佳化供應鏈，即時預測原料需求並防範斷貨。系統通過結合銷售與運費資料，在「1 美元 Frosty」促銷爆單時自動通知供應商調整產能。快餐巨頭正試圖用演算法取代手動算表，打好價格戰。
Adobe 的 AI 陽謀：不談取代人類，先用修圖工具討好創作者
CNET 分析了 Adobe 面向專業創作者的 AI 策略。Adobe 避開一鍵生成，轉向用生成式編輯解決修圖痛點，例如用 AI 抹電線、補影片幀。目前 Photoshop 生成式填充日均使用達 2300 萬次，但畫師對飯碗和版權的擔憂仍在。
OpenAI 勝訴：美法官駁回兩家新聞機構的 AI 訓練版權訴訟
週四，美國聯邦地方法官駁回了 Raw Story 和 AlterNet 對 OpenAI 提起的一起訴訟。原告指控 OpenAI 在訓練 ChatGPT 前移除了數千篇文章的作者和標題等版權管理資訊。法官認為原告未證明受到具體傷害，但允許其修改後再訴。
傳 Amazon 擬向 Anthropic 追加數十億美元：前提是用亞馬遜晶片
據報道 Amazon 正洽談向 Anthropic 追加數十億美元投資。不過這筆交易帶有限制條件：Amazon 要求 Anthropic 改用其自研晶片來訓練 AI。儘管 Anthropic 更青睞 Nvidia 晶片，但在今年預計耗資超 27 億美元的資金壓力下，這筆注資可能很難拒絕。