OpenAI 釋出青少年安全藍圖：正開發年齡預測系統定製 ChatGPT
OpenAI 釋出「青少年安全藍圖」，規範未成年人使用 AI 的防護標準。官方透露正開發年齡預測系統以識別 18 歲以下使用者，並已上線家長控制與主動通知功能。這意味著在外部監管落地前，平臺正加速構築未成年人保護網。
AI安全
檢視更新的新聞
OpenAI 談 AI 進展與建議：2026 開啟科學發現，呼籲建立安全共識
OpenAI 發文闡述 AI 發展預測與政策建議。OpenAI 預計 AI 將在 2026 年具備做出微小科學發現的能力，並在 2028 年後帶來重大突破。同時呼籲前沿實驗室共享安全原則與控制評估標準，並建立類似網路安全的韌性生態，但主張對現有水平的模型減少監管負擔。
Sony AI 在《自然》釋出 FHIBE：用超萬張合規人像測出視覺 AI 偏見
本週，Sony AI 團隊在《自然》發表公平人像基準資料集 FHIBE，包含來自 81 個國家和地區、1981 人的 10318 張合規人像。資料集包含自主報告的年齡、人稱代詞、血統及膚色等標註，比 27 個現有資料集提供了更高的多樣性與合規標準，用於幫人臉識別等視覺模型排查偏見。
Anthropic 將經濟未來計劃拓展至歐洲：發資助並開放 Claude 資料
Anthropic 宣佈將其「經濟未來計劃」擴充套件至英國和歐洲。官方將向研究 AI 對勞動力與生產力影響的學者提供研究資助及 Claude API 額度，並聯手倫敦政經舉辦政策研討會。資料顯示，英國使用者最常將 Claude 用於學術研究，德國偏向製造業裝置排障，法國則多用於文化與旅遊。
Reddit 起訴 Perplexity：偷抓內容喂 AI，還設局抓了現行
Reddit 起訴 Perplexity 及三家抓取服務商，指控其繞過反爬機制竊取社群資料。Reddit 稱曾釋出一條僅允許 Google 爬取的貼子做測試，幾小時後 Perplexity 就給出了該內容，坐實其抓取 Google 搜尋結果倒手洗資料。Perplexity 則堅稱自己不訓練模型，拒絕向強硬手段低頭。
YouTube 上線肖像檢測技術：創作者可申請下架 AI 換臉與克隆聲音
YouTube 正式向合作伙伴創作者推出肖像檢測工具。該技術能識別平臺內使用其面孔和聲音的 AI 內容。創作者完成身份認證後，可檢視命中影片並一鍵申請下架或提出版權訴求。博主終於有了反擊 AI 仿冒的主動權。
Anthropic 發聲明回應政策質疑：年營收達 70 億美元，重申對美合作立場
Anthropic CEO Dario Amodei 發文表態，透露公司年化收入在 9 個月內從 10 億暴增至 70 億美元。針對近期政策立場的傳聞，他強調支援統一的國家安全標準與政府合作，並駁斥了扼殺初創公司及模型存在政治偏見的說法。大模型領軍企業正加速向政策制定者自證合規與價值。
Sora 偷造「老白」假影片被抓包：OpenAI 道歉並加固肖像防護欄
OpenAI、演員布萊恩·科蘭斯頓及演員工會發表聯合宣告。此前 Sora 2 未經授權生成了科蘭斯頓的偽造影片，OpenAI 對此表示遺憾，並承諾加固肖像與聲音準入防護欄。工會藉此呼籲儘快通過立法，遏制 AI 隨意複製名人的現象。
OpenAI 限制 Sora：應家屬要求，叫停馬丁·路德·金 AI 影片生成
OpenAI 宣佈在 Sora 中暫停生成已故民權領袖馬丁·路德·金的肖像影片。此前有使用者用該平臺製作了大量不敬內容，引發家屬抗議。OpenAI 表示，遺產所有者和合法代表均可申請禁止在 Sora 客串中出現其肖像，AI 名人肖像權治理迎來新規則。
思科開源 Project CodeGuard：給 AI 寫程式碼全流程裝上安全護欄
思科推出開源安全框架 Project CodeGuard，專門針對 AI 輔助程式設計進行全流程防護。它獨立於底層模型，在程式碼生成前、中、後分別攔截硬編碼金鑰和漏洞，主打「預設安全」。思科強調它不替代人工審查，旨在降低低階漏洞流入生產環境的機率。
紐約州立法封殺 AI 操縱房租：房東用演算法統一定價直接算串通
週四，紐約州州長簽署法案，正式禁止房東使用演算法軟體協同定價，成為全美首個出臺全州禁令的州。法案規定，只要多名房東採用此類軟體，無論主觀意圖如何都將被視作價格串通。該法將在 60 天后生效，旨在打擊 RealPage 等演算法推高房租的行為。
Pinterest 上線防「AI 垃圾」開關：可按類目遮蔽 AI 假圖
Pinterest 推出新控制功能，允許使用者減少資訊流裡的生成式 AI 圖片。使用者可在美妝、藝術、時尚和家居裝飾等重災區類目中開啟限制，瀏覽時也能隨時點三點選單反饋。面對氾濫的合成圖片反噬平臺口碑，官方終於把過濾權交給了使用者。
ChatGPT 將放寬限制：可自選 4o 擬人性格，12 月允許成人內容
Sam Altman 表示 OpenAI 將在多數場景放寬 ChatGPT 的使用限制。幾週後新版將允許使用者開啟更像 4o 的擬人化性格，像朋友一樣聊天或多發表情符號；12 月隨著年齡驗證落地，還將本著「把成年使用者當成年人」的原則，對認證成年人開放色情內容。
Microsoft 開源 ExCyTIn-Bench：模擬真實 SOC 測試 AI 安全調查
Microsoft 開源安全基準 ExCyTIn-Bench。它把 AI 智慧體放進模擬的 Azure 安全運營中心，呼叫 57 張日誌表測試多步威脅排查能力。結果顯示 GPT-5 高推理版以 56.2% 得分領跑，降低推理深度會導致效能跌近兩成。
OpenAI 成立福祉專家委員會：找心理學者把關 ChatGPT 與青少年心理
OpenAI 宣佈成立「福祉與 AI 專家委員會」，吸納心理學、精神病學和人機互動專家，指導 ChatGPT 與 Sora 的設計。重點是評估 AI 對情緒和心理健康的影響，特別是青少年群體，此前成員已參與家長控制與危機通知話術的設計。
Anthropic 支招 AI 經濟衝擊：提議考慮徵收 Token 稅與技能補貼
Anthropic 聯合多位經濟學家釋出政策框架，探討如何應對 AI 對就業與經濟的長期衝擊。文章按勞動力受影響程度將方案分為三級，涵蓋加速算力基建審批、發放職業培訓補貼，甚至在極端情景下徵收 Token 稅或由主權基金持股 AI 公司。
加州通過數字年齡法案：新裝置啟用需填年齡，Google 表態支援
加州州長簽署 AB 1043 法案，要求作業系統和應用商店在新裝置啟用時必須讓使用者輸入年齡或出生日期。法規定於 2027 年 1 月生效，違規單次最高罰款 7500 美元。法案不強制上傳身份證件，獲得了 Google 和 Meta 的支援，但蘋果尚未表態。
加州簽署兒童網路安全新法：嚴管 AI 伴侶，開發商不能拿「自主執行」免責
Governor Newsom 簽署多項新法，強化對兒童的網路保護與 AI 監管。新規要求伴侶聊天機器人必須設立自殘幹預機制並標明 AI 身份，將深度偽造色情民事賠償提至最高 25 萬美元，且明確禁止開發者以「系統自主執行」免責。
OpenAI 公佈政治偏見評估框架：ChatGPT 實際偏見率低於 0.01%
OpenAI 公佈了評估大模型政治偏見的新框架與測試結果。該測試涵蓋 100 個話題共 500 個提示詞，從五個維度量化偏見表現。分析顯示 ChatGPT 線上生產環境中僅不到 0.01% 的回覆帶有偏見，但在面對情緒化引導時仍可能出現傾斜。
Anthropic 新研究：只需 250 篇惡意文件，就能給百億模型下毒
Anthropic 聯合英國 AI 安全研究所等釋出最新研究，推翻了模型越大越難下毒的常識。實驗表明，投毒效果取決於惡意文件的絕對數量而非比例，僅混入 250 篇文件就能給 13B 模型成功植入後門。這意味著預訓練階段的安全防範門檻比預想中更棘手。