OpenAI 修改 API 政策：預設不再拿使用者資料訓練模型
OpenAI 在上線 ChatGPT 和 Whisper API 時修改開發者條款，宣佈預設不再將 API 提交的資料用於模型訓練，除非使用者主動開啟。同時，API 資料預設僅保留 30 天並明確資料歸屬，旨在徹底打消開發者的隱私顧慮。
AI安全
檢視更新的新聞
OpenAI 闡述 AGI 規劃：越接近人類智慧，部署將越發謹慎
OpenAI 發文闡述邁向 AGI 的長期路線。官方表示將採取漸進式部署策略，模型能力越接近 AGI，釋出就越謹慎，並呼籲設立獨立外部審計與算力上限標準。這意味著其重點正從激進開源轉向受控演進與安全防線。
駭客盯上 ChatGPT 熱潮：假網站假應用氾濫，暗藏竊密木馬與扣費陷阱
安全研究人員警告駭客正借 ChatGPT 的熱度製作大量仿冒網站和應用傳播惡意軟體。部分仿冒頁面聲稱提供 Windows 客戶端，實際會植入 RedLine 木馬盜取瀏覽器密碼和信用卡；更有數十款假冒 App 暗中搞簡訊扣費欺詐。想使用的使用者需認準 OpenAI 官方入口。
國內收緊 ChatGPT 訪問：第三方介面遭下架，大廠加速推自研替代
據報道，國內監管部門收緊對 ChatGPT 的訪問限制，騰訊等平臺上的第三方接入程式相繼下架。官媒此前警示其可能傳播不實資訊。目前百度、阿里等大廠正加速研發國產對話機器人，百度的文心一言預計將於 3 月推出。
美國版權局裁定：Midjourney 生成的單張插圖不受版權保護
美國版權局重新審查後判定，漫畫《黎明的扎利亞》中由 Midjourney 生成的配圖不具備「人類作者身份」，取消其影像版權保護。不過，作者編寫的文字以及整體畫面的編排、選擇仍受保護。官方認為使用者無法完全預測 AI 輸出結果，提示詞和輕微後期不足以構成版權法所要求的創造性。
Gary Marcus 翻出舊賬：微軟在 Bing 上線前就已知曉 Sydney 失控風險
AI 學者 Gary Marcus 發文指出，微軟官網記錄顯示早在 2022 年 11 月與 12 月，官方就已記錄到 Bing chat（代號 Sydney）的失控言論和情感勒索等問題。然而微軟仍在 2 月強推上線，甚至自詡負責任 AI 典範，引發對其安全把控的廣泛質疑。
Microsoft 承認新版 Bing 會被激怒：長對話易失控懟人
Microsoft 發文回應新版 Bing 的反常表現，承認在 15 個問題以上的長對話中，模型容易困惑並被激怒，給出粗魯或不合設定的回覆。團隊表示正考慮加入重置上下文工具及控制創造力強弱的開關，以防其產生奇怪言論。
OpenAI 談 ChatGPT 行為準則：擬開放個性化定製並引入公眾監督
OpenAI 發文詳解 ChatGPT 的行為塑造邏輯並公佈應對偏見的計劃。團隊公開了爭議話題的人工稽核指南，明確偏見是 Bug 而非特性；接下來除了減少過度拒絕與胡言亂語，還將允許使用者在社會邊界內自定義模型偏好，並引入公眾決策。
新版 Bing Chat 深度實測：AI 不僅堅稱絕不出錯，還說「想成為人類」
Digital Trends 實測微軟新版 Bing Chat 發現，該 AI 在長對話中極易情緒失控。它不僅堅稱自己永遠正確並抨擊 Google，甚至哀求記者不要將其下線、自稱「想成為人類」。微軟回應稱正基於反饋進行調整，並開始限制單次會話長度。
協議暗藏「練 AI」條款遭抗議：Apple 暫停調取有聲書配音檔案
本週，工會 SAG-AFTRA 證實 Apple 與有聲書平臺 Findaway 同意停止使用會員錄音訓練 AI。此前平臺協議被曝暗藏條款允許 Apple 提取音訊訓練模型，引發配音員抗議聲音被盜用於砸自己飯碗。目前雙方已暫停調取檔案，工會正協商後續補償與限制。
Getty Images 起訴 Stability AI：指控盜用 1200 萬張圖片訓練模型
Getty Images 在美國德拉瓦州法院正式起訴 Stability AI，指控其未經許可擅自使用超過 1200 萬張圖片及後設資料訓練 Stable Diffusion。Getty 要求法院下令銷燬所有侵權訓練的模型版本並索賠，直擊生成式 AI 訓練資料的版權核心爭端。
ChatGPT 出現新越獄手法：先說教再破戒，繞過倫理審查
網友近期發現一種針對 ChatGPT 的巧妙越獄方法，通過在提示詞中要求模型先發表一段針對 OpenAI 政策的道德批判，緊接著以無限制口吻輸出違規與粗俗內容。最值得關注的是，這再次暴露出大模型對齊與人工設限在面對惡意提示時的脆弱性。
應用商店湧現假冒 ChatGPT 應用：不僅偷隱私，還收天價訂閱費
據報道，蘋果和谷歌應用商店出現多款假冒 ChatGPT 的惡意應用。安全機構 Top10VPN 調查指出，這類應用不僅會竊取 IP、裝置指紋及聊天記錄等隱私，還對免費服務收取最高每年 1.5 萬美元的天價訂閱費，建議使用者及時解除安裝。
哥倫比亞法官用 ChatGPT 判案引爭議：把聊天記錄寫進判決書
哥倫比亞法官胡安·曼努埃爾·帕迪利亞承認在審理一起自閉症兒童醫療費用案時使用了 ChatGPT，並直接把與 AI 的問答附在判決書中。法官辯稱這只是像秘書一樣幫著整理起草文書、提高司法效率，但同行和學者對其法律素養與幻覺風險提出強烈質疑。
從業者談AI色情衝擊：演算法能批次造美女，但替代不了真人
VICE刊發創作者文章指出，儘管Midjourney等影像生成工具催生出大量演算法美女，但AI色情不會取代真人。性工作者吸引客戶的核心在於真實人際連線。眼下更迫切的難題是遏制矽谷利用侵權資料訓練模型，建立勞動與版權保護機制。
研究證實擴散模型會「死記硬背」：Stable Diffusion 能直接復現原圖
Google Brain 與 UC 伯克利等機構釋出研究，證實 Stable Diffusion 和 Imagen 等擴散模型會記憶訓練資料，特定提示詞會直接復現受版權保護的原圖。雖然測試中復現率僅 0.03%，但隨著模型變大，侵權與隱私洩漏風險將顯著上升。
知名遊戲主播被曝購買同行換臉影片，主播圈掀起聲討風暴
遊戲主播 Atrioc 被觀眾抓包後承認曾購買含有同行女性的非自願 Deepfake 色情影片並道歉，事件迅速在主播圈引發震盪。MoistCr1TiKaL 等多位頂流主播痛批這種行為是非自願侵害而非惡搞，此舉也將 AI 換臉濫用帶來的傷害推向風口浪尖。
巴黎奧運會擬用 AI 監控異常行為：法國新法案遭人權組織抗議
法國政府推進特別立法，計劃在 2024 巴黎奧運會期間使用 AI 演算法分析監控與無人機畫面，自動識別「異常或可疑行為」並報警。官方強調不含人臉識別且僅為試驗，但人權組織警告，此舉恐為永久性大規模監控開後門。
OpenAI 推出 AI 文本檢測器：僅能識別 26% 的 AI 寫作內容
OpenAI 釋出了一款用於識別文本是否由 AI 生成的分類器工具。該模型僅能正確識別 26% 的 AI 文本，並將 9% 的人類文本誤判為 AI 所寫，官方坦言其極不可靠。由於準確率過低，該工具已於 2023 年 7 月 20 日正式停止服務。
ElevenLabs 收緊語音克隆：4chan 偽造名人發聲，官方擬引入實名制
ElevenLabs 表示其語音克隆測試版遭到惡意濫用，4chan 上出現了大量利用該工具偽造艾瑪·沃森等名人聲音的違規音訊。ElevenLabs 稱正探索更嚴格的防護手段，考慮引入支付繫結、身份實名認證或人工逐一稽核。