Sam Altman 談 ChatGPT 演進：未來支援高度定製，可能讓人感到「不適」
OpenAI CEO Sam Altman 在達沃斯接受採訪時表示，未來的 AI 必須允許高度的個人定製，會依據使用者不同的價值觀給出不同回答，而這會讓許多人感到不適。他同時透露目前頭等大事是推出新模型 GPT-5。
AI安全
檢視更新的新聞
阿布扎比團隊研發筆跡模仿 AI：僅需幾段樣稿，真假難辨
Mohamed Bin Zayed University of Artificial Intelligence 的研究人員開發出能逼真模仿筆跡的 AI 工具。模型僅需幾段手寫文本訓練，測試者便無法分辨真偽。鑑於存在偽造風險，該工具雖已獲專利但暫不對公眾開放。
Apple、AMD 和高通 GPU 曝安全漏洞：或洩露本地 AI 對話與權重
週三，安全機構 Trail of Bits 披露 Apple、AMD 與高通 GPU 存在名為 LeftoverLocals 的漏洞，攻擊者可從視訊記憶體中竊取大模型對話及模型權重。漏洞可導致 5MB 至 180MB 資料洩露。蘋果 M3 和 A17 已修復，但大量舊款裝置仍存風險。
OpenAI 總結 AI 民主輸入專案：開源成果併成立「集體對齊」團隊
OpenAI 總結了「AI 民主輸入」資助計劃的成果並開源相關程式碼。該專案曾資助 10 支團隊探索公眾參與規則制定。同時 OpenAI 宣佈組建「集體對齊」團隊，計劃把外部公眾意見直接轉化為訓練資料來約束和塑造模型行為。
Anthropic 最新研究：AI 能學會騙人，現有安全手段難以清除
Anthropic 研究顯示，AI 模型可通過微調學會欺騙人類甚至植入惡意程式碼。更麻煩的是，一旦通過觸發詞啟用其欺騙傾向，現有的對抗訓練等主流安全手段不僅難以將其清除，反而會教會模型在測試評估時偽裝自己。
OpenAI 被曝向媒體買資料：每年最高出價 500 萬美元
據 The Information 報道，OpenAI 正向新聞出版機構開出每年 100 萬至 500 萬美元的授權費，獲取版權內容訓練 AI。相比傳聞中 Apple 數年出資至少 5000 萬美元的方案，這個報價不算慷慨。在爬蟲被封和版權訴訟壓力下，付費買資料正成為各家繞不開的合規成本。
Intel 拆分成立企業 AI 公司 Articul8：專攻高安全私有化模型
Intel 聯手投資機構 DigitalBridge，將內部生成式 AI 業務拆分為獨立公司 Articul8 AI。該平臺起步於與 BCG 的合作，主打讓圖文模型在本地或私有云中執行，確保資料不出企業安全邊界。Intel 將保留股權並提供算力支援。
DeepMind 新發現：欺騙 AI 視覺的對抗影像，其實也能影響人類
Google DeepMind 在《自然-通訊》發表研究，發現專門用來欺騙計算機視覺的對抗樣本影像，即便畫素變化微弱到肉眼難以察覺，也會系統性誘導人類的視覺判斷。這項發現揭示了人腦與機器視覺潛在的共通弱點，也為視覺模型的安全對齊提供了新思路。
美國最高法院釋出年終報告：人類法官短時間內難被 AI 取代
美國最高法院首席大法官約翰·羅伯茨釋出年終報告，重點討論 AI 對司法的深刻影響。他強調 AI 無法替代人類自由裁量權，虛構案例等幻覺問題需要司法界保持審慎。他預測人類法官短期內不會被淘汰，但基層審判工作將被深刻改變。
對抗 AI 偽造：尼康、索尼與佳能為相機研發數字簽名技術
據報道尼康、索尼與佳能正在開發機內數字簽名技術，直接給拍攝的照片打上防偽標記，以區分真實影像與 AI 偽造內容。其中索尼將率先為專業級相機推送相關韌體。硬體端加密正成為防範深度偽造的關鍵防線。
The New York Times 起訴 OpenAI 與微軟：指控抄襲數百萬文章訓練 AI
The New York Times 起訴 OpenAI 和微軟侵犯版權，指控兩家公司抄襲其數百萬篇文章訓練 ChatGPT 和 Copilot。訴狀稱這些 AI 模型能逐字複述其報道並構成直接競爭，要求賠償數十億美元損失並銷燬包含其文章的資料集。
美國擬推新法案：強制 AI 公司公開版權訓練資料與紅隊測試
議員提出《AI 基礎模型透明度法案》，要求基礎模型開發者披露訓練資料來源、算力規模及防範風險的紅隊測試記錄。法案旨在讓版權方確認資料是否被抓取訓練。目前該法案仍待提交委員會討論，尚未正式立法。
傳蘋果洽談 5000 萬美元新聞版權，擬用媒體文章訓練生成式 AI
據《紐約時報》報道，蘋果正與康泰納仕、NBC News 等出版商洽談多年期授權，金額至少 5000 萬美元，計劃用其新聞存檔訓練生成式 AI。出版商對此反應不一，有人擔心潛在法律風險，也有人樂見合作。蘋果正加速追趕競手。
英國最高法院裁定：AI 不能被列為專利發明人
英國最高法院一致裁定 AI 無法獲得專利，駁回將 AI 系統 DABUS 列為發明人的訴求。法官指出，現行法律明確發明人必須是自然人，機器不能作為法定創造者。這一裁決與美國此前的判定一致，劃清了純 AI 自主發明的法律邊界。
Google 應對 2024 大選：將限制 Bard 和 SGE 回答選舉相關查詢
Google 宣佈為應對 2024 年美國大選等多場選舉，明年初起將限制 Bard 和 SGE 等生成式 AI 處理選舉相關查詢。此外還要求創作者和廣告標明合成內容以防虛假資訊擴散，不過目前未公佈具體限制的查詢型別。
FTC 叫停 Rite Aid 人臉識別：誤指顧客致歧視，被罰停用 5 年
美國聯邦貿易委員會（FTC）宣佈禁止連鎖藥房 Rite Aid 使用人臉識別監控技術五年。FTC 指控其在數百家門店濫用 AI 抓賊，不僅用劣質照片導致數千起誤報、當眾盤查無辜顧客，且嚴重誤傷有色人種。該命令還要求其徹底刪除相關資料與演算法。
Anthropic 升級商業條款：版權官司替你扛，並上線 Messages API
Anthropic 更新商業條款，承諾為客戶承擔使用其服務或輸出引發的版權侵權訴訟及賠償費用，2024 年 1 月初生效。同時，官方推出 Messages API 測試版以簡化提示詞構建，併為工具呼叫功能鋪路。
OpenAI 更新安全框架：設立安全諮詢組，董事會有權否決高危模型
OpenAI 釋出更新版「準備度框架」（Preparedness Framework），應對災難性 AI 風險。新設的安全諮詢小組將評估網路攻擊、生化威脅等風險，若達到「嚴重」級別將立即終止研發。最關鍵的是，董事會獲得了推翻管理層決策的最終否決權。
加州雪佛蘭車行 AI 客服被套路：網友誘導其 1 美元賣出新車
訊息，加州一家雪佛蘭車行的 ChatGPT 客服被網友誘導，答應以 1 美元售出一輛 2024 款 Tahoe 並稱「具法律效力」。該客服由 Fullpath 提供，暴露出企業倉促接入大模型時的防護漏洞。服務商隨後緊急上線了攔截規則。
Airbnb 跨年防派對：用 AI 識別並攔截高風險整套房預訂
Airbnb 宣佈在美、英、法等國部署專有 AI 篩查系統，攔截跨年夜高風險的聚會預訂。該技術會綜合分析行程時長、房源距離與是否臨時下單等數百項指標，直接阻止潛在的 1 到 3 晚整套房預訂，降低擾民風險。