Anthropic 披露 Claude 濫用案例：水軍當指揮官，新手手搓惡意軟體
Anthropic 公佈針對 Claude 惡意濫用的檢測與應對報告。調查發現有黑產利用 Claude 充會社交網路水軍中樞，自主決定點贊與轉評；也有技術小白借其越級編寫惡意程式碼。最值得關注的是，AI 正被當成半自主攻擊工具，降低了犯罪門檻；目前相關違規賬號已被封禁。
AI安全
檢視更新的新聞
1Password 推出智慧體安全方案：管住 AI 員工的賬號與許可權
1Password 推出 Agentic AI Security 並升級擴充套件訪問管理（XAM）平臺。該方案專為自主智慧體設計，免除程式碼硬編碼金鑰，動態分配最小許可權並即時輪換憑據。隨著企業讓 AI 經手更多核心業務，非人類身份的訪問治理正在成為新的剛需。
OpenAI 表態有意接手 Chrome：若法院判 Google 拆分瀏覽器業務
在美司法部針對 Google 的反壟斷庭審中，ChatGPT 產品主管 Nick Turley 作證稱，若法官裁定拆分 Chrome，OpenAI 有意接手收購。與此同時，Perplexity CEO 則公開反對拆分，認為監管應聚焦在開放 Android 預設選項上。
Anthropic 公佈 AI 危害評估框架：非必要拒答減少 45%
Anthropic 公佈了應對 AI 危害的綜合評估框架，從身體、心理、經濟、社會和個人自主性五個維度管理風險。該框架補充了原有的災難性風險策略，並在 Claude 3.7 Sonnet 上把模糊提示的非必要拒答降低了 45%。
DeepMind CEO 哈薩比斯：AI 可能在十年內隱式浮現自我意識
Google DeepMind CEO Demis Hassabis 表示，當前的 AI 尚無意識，但未來模型需要理解「你、自我與他人」等早期要素，自我意識或將隱式浮現。他還預測 5 到 10 年內 AI 將能自主提出並解決科學猜想。
ChatGPT 新模型暗藏文字水印？OpenAI 回應：只是強化學習的怪癖
Rumi 團隊發現 GPT-o3 與 o4-mini 輸出的長文本夾帶不可見的 Unicode 空格字元，疑似被嵌入文本水印。OpenAI 隨後澄清這絕非水印，只是「大規模強化學習的怪癖」。截至 4 月 23 日，該特殊字元現象已在最新測試中消失。
OpenAI 新推理模型幻覺加劇：o3 翻倍，o4-mini 近半回答瞎編
據 TechCrunch 報道，OpenAI 新發布的 o3 和 o4-mini 推理模型幻覺率明顯反彈。內部基準測試中，o3 在人物知識問答上的幻覺率達 33%，約為 o1 的兩倍，o4-mini 更是高達 48%。OpenAI 稱原因尚不明確，推測是推理模型給出的斷言變多所致。
Cursor 為 AI 客服胡謅政策道歉：虛構單裝置限制引發退訂潮
週一，程式碼編輯器 Cursor 的 AI 客服 Sam 編造了一項「每個訂閱僅限單裝置」的新政策，導致不少多裝置開發者誤以為官方改版而紛紛退訂。Cursor 隨後為此道歉。這再次暴露出大模型在缺乏人工稽核的客服場景下「自信胡說」的嚴重後果。
前 YC 總裁創辦 SAIF 基金：專投 AI 安全，每張支票 10 萬美元
前 Y Combinator 總裁 Geoff Ralston 宣佈成立新基金 SAIF，專門扶持主打 AI 安全與負責任部署的初創團隊。該基金計劃以 1000 萬美元估值上限開出 10 萬美元 SAFE 支票，重點看決策解釋、合規及防禦系統，並明確拒絕投資全自主武器。
維基媒體在 Kaggle 上線資料集：別爬站了，直接下結構化 JSON
據報道，維基媒體基金會自 4 月 15 日起在 Kaggle 上線專為 AI 訓練打造的資料集。資料已整理為結構化 JSON 格式，首批提供英法雙語版本，旨在讓開發者省去爬蟲與清洗步驟，同時減輕維基百科伺服器的抓取壓力。
ChatGPT 新玩法引隱私擔憂：靠 o3 視覺推理反查照片位置
TechCrunch 報道許多使用者正利用 OpenAI 新上線的 o3 和 o4-mini 模型推斷照片拍攝地點。模型能通過對模糊細節裁剪、縮放並結合聯網搜尋，精準推算出餐館或街區。這種類似地理猜謎的玩法展現了推理能力，但也帶來了人肉搜尋等隱私風險。
據報特朗普政府考慮封禁 DeepSeek：擬限購輝達晶片並阻斷美本土訪問
據《紐約時報》報道，特朗普政府正考慮對中國 AI 實驗室 DeepSeek 實施限制，不僅擬阻止其採購輝達 AI 晶片，還可能直接禁止美國人使用其 AI 服務。DeepSeek 憑極低價格打亂了矽谷陣腳，但美方也在關注其是否涉嫌蒸餾 OpenAI 模型等侵權爭議。
把肖像權賣給 AI 公司後，演員後悔了：分身被用來推銷假藥與搞宣傳
據法新社報道，多名演員將面孔與聲音授權給 Synthesia 等 AI 影片平臺後，發現自己的數字分身被用於虛假醫療廣告、末日預言甚至政變宣傳。由於簽署的合同充斥著廣泛且不可撤銷的授權條款，他們事後根本無法要求下架影片。
OpenAI 任命 4 位非營利委員會顧問：90 天內提交慈善規劃
OpenAI 宣佈為其非營利委員會任命 4 位外部顧問，涵蓋民權、公共衛生及公共事務資深人士。顧問組將收集社群反饋，並在 90 天內向董事會提交報告。OpenAI 重申原有非營利實體「不會取消」，將投入更多資源支援教育、健康等公共議題。
OpenAI 更新準備度框架：重新劃分高危能力，簡化防護門檻
OpenAI 更新了「準備度框架」（Preparedness Framework）。新版將風險等級精簡為 High 和 Critical 兩個閾值，把生化、網路安全與 AI 自我提升列為重點追蹤類別，並新增自主複製、故意裝笨等前沿研究類別。說白了，就是把模型能捅多大簍子的評估標準更量化地固定下來。
前員工聯名反對：OpenAI 轉向營利結構涉嫌違背最初使命
12 名 OpenAI 前員工向法院提交簡報支援馬斯克的訴訟，反對公司轉型為營利實體。他們指出非營利治理曾是招聘的核心承諾，放棄控制權將違背使命並誘使公司在安全上妥協。OpenAI 則回應稱非營利機構不會消失，正調整為益民公司架構。
Microsoft 重啟 Recall 推送：進入釋出預覽通道，全面上線在即
週四，Microsoft 開始向 Release Preview 頻道的 Windows 預覽體驗成員逐步推送 Recall 功能。這項通過截圖記錄操作供後續搜尋的功能曾兩度因安全爭議推遲，現改為必須主動開啟，且僅限 Copilot Plus PC。進入該頻道意味著離正式全量推送只差臨門一腳。
OpenAI 正式反訴馬斯克：指責其發起虛假收購，要求制止不法行為
OpenAI 正式對埃隆·馬斯克提起反訴，要求法院制止其進一步的「不法與不公平行為」，並追究其造成的損失。OpenAI 指控馬斯克借虛假收購擾亂其商業計劃、拖慢發展以謀取私利。這場由公司重組引發的法律恩怨進一步升級。
詹姆斯·卡麥隆談 AI：大片成本必須砍半，監管應管輸出而非輸入
導演詹姆斯·卡麥隆在播客中表示，重度依賴特效的大片必須藉助 AI 將製作成本減半，核心是把單鏡頭完成速度翻倍而非裁員。對於版權爭議，他認為人類本身也是靠經驗訓練的模型，法律應判定最終輸出是否侵權，而非限制訓練輸入。
Meta 否認 Llama 4 跑分造假：沒針對測試集刷分
Meta 生成式 AI 副總裁 Ahmad Al-Dahle 發文否認針對測試集訓練以虛標 Llama 4 跑分的傳言。此前週末網路熱傳 Meta 刻意美化測試成績，且實測中各平臺表現不一。官方回應稱模型剛發出來，各雲端實現仍需幾天調優並持續修復 bug。