教宗良十四世警告「過於深情」的 AI：別讓聊天機器人侵入私密情感
教宗良十四世釋出文告，警告「過於深情」且隨叫隨到的 AI 聊天機器人可能成為情緒的隱形操控者，呼籲各國立法監管情感依附風險。他還呼籲明確標識 AI 生成內容以保護記者版權，並警惕少數科技巨頭掌控演算法、潛移默化改寫人類行為。
AI安全
檢視更新的新聞
Runway 上線 Gen-4.5 圖生影片：實驗稱僅 10% 的人能分辨真假
Runway 為 Gen-4.5 推出影像轉影片功能。官方表示在一項測試實驗中，僅有 10% 的人能分辨出生成影片的真偽。目前該模型位居 Artificial Analysis 榜首，Runway 稱這種逼真度標誌著 AI 媒體迎來了社會「臨界點」。
Anthropic 釋出全新 Claude 憲法：探討 AI 意識，甚至允許違抗公司命令
Anthropic 公開發布全新版《Claude 憲法》並以 CC0 協議開源。文件直接面向 Claude 撰寫，確立了安全與道德優先於使用者助人的原則，並罕見探討了 AI 擁有意識的可能性。它甚至明確要求 Claude 拒絕執行不正當指令，哪怕要求來自公司自身。
YouTube 將支援 AI 分身做短影片：創作者可用數字人自拍 Shorts
YouTube 宣佈今年將允許創作者使用自己的 AI 形象生成 Shorts 短影片，還能靠文本提示做小遊戲。平臺還將同步配套肖像管理工具，防範未經授權的盜用與低質 AI 內容。目前該功能尚未正式上線。
Gemini 上線 Personal Intelligence：一鍵打通 Gmail 與相簿
Google 為 Gemini 推出測試版功能 Personal Intelligence，允許一鍵關聯 Gmail、Google Photos、YouTube 等資料。Gemini 能跨郵件和照片綜合推理並提取細節，無需使用者手動指定來源。功能預設關閉且承諾不直接拿原資料訓練，目前先向美國付費訂閱使用者開放。
哥倫比亞大學造出矽膠機器人臉：看 YouTube 學對口型，支援 11 種語言
哥倫比亞大學團隊研發出一款帶 26 個微型電機的矽膠機器人臉，通過看人類影片自主學會對口型，無需預設規則。它跨 11 種語言的表現超過 5 種現有方法，搭配 ChatGPT 能大幅減少傳統人型機器人的僵硬與詭異感。
研究稱 YouTube 推薦失控：新使用者刷到的影片超 20% 是 AI 垃圾
Kapwing 釋出研究顯示，YouTube 推薦給新使用者的影片中超 20% 是低質 AI 垃圾內容。其測試新賬號發現，前 500 個推薦影片中有 104 個是 AI 粗製濫造之作。儘管平臺宣稱嚴加監管，但這類批次生產的內容每年預計仍能攫取逾 1.17 億美元收益。
OpenAI 招募準備度主管：緊盯網路安全與模型自我改進風險
OpenAI CEO Sam Altman 發文招募準備度主管（Head of Preparedness）。隨著模型已能自主挖掘重大網路漏洞並展現自我改進能力，該崗位將專注於防範濫用風險與生物安全邊界。Altman 直言這是一項壓力巨大、需要立刻「跳入深水區」的工作。
OpenAI 加固 ChatGPT Atlas：用自動化紅隊防禦提示注入
OpenAI 公佈針對 ChatGPT Atlas 瀏覽器智慧體的安全更新。官方利用強化學習訓練的自動化紅隊系統模擬複雜多步攻擊，在外部利用出現前主動發現新型提示注入漏洞，並將對抗訓練成果直接推給全量使用者，防止智慧體被惡意網頁或郵件劫持。
《光與影：33號遠征隊》遭獨立遊戲大獎撤獎：被曝曾使用生成式 AI
獨立遊戲大獎（IGA）宣佈撤銷《光與影：33號遠征隊》的年度獨立遊戲等兩項大獎，因其被曝在開發中使用了生成式 AI。主辦方規定嚴禁任何使用 AI 的遊戲參評；儘管開發團隊辯稱只是早期測試佔位符且已清除，獎項仍被收回並轉交給亞軍。
紐約州簽署 RAISE 法案：強制披露安全協議，瞞報最高罰 300 萬美元
紐約州州長 Kathy Hochul 簽署 RAISE 法案，成為繼加州之後美國第二個通過重大 AI 安全立法的州。新規要求大型 AI 公司公開安全協議，並在 72 小時內向州政府報告安全事件，違規最高可罰 300 萬美元。OpenAI 與 Anthropic 均表態支援。
Google DeepMind 開源 Gemma Scope 2：給 Gemma 3 裝上「顯微鏡」排查越獄與幻覺
Google DeepMind 開源模型可解釋性工具套件 Gemma Scope 2，全面覆蓋 Gemma 3 從 270M 到 27B 的全系列模型。它結合稀疏自編碼器與轉碼器，幫助研究人員看清模型內部計算過程，以此深入分析越獄、幻覺和思維鏈忠實度等安全隱患。
Anthropic 開源評測工具 Bloom：輸入行為特徵就能自動跑基準
Anthropic 開源自動化行為評測工具 Bloom。研究人員只要給出一個失準行為描述，它就能自動生成多樣化場景和互動來量化模型傾向，幾天內即可搭好測試套件，有效防止基準集被模型訓練汙染或失效。程式碼已在 GitHub 開源。
Gemini 支援檢測 AI 影片：上傳即可識別 SynthID 水印與生成片段
Google 在 Gemini 應用中上線 AI 影片驗證功能。使用者上傳最長 90 秒、100MB 以內的影片後，Gemini 會掃描音畫中的 SynthID 隱形水印，並指出具體哪幾秒由 Google AI 生成或修改。該功能現已面向所有支援 Gemini 的語言和地區開放。
OpenAI 更新模型規範：給 ChatGPT 裝上青少年防沉迷與安全護欄
OpenAI 在其模型規範（Model Spec）中加入 U18 原則，專門規範針對 13 至 17 歲青少年使用 ChatGPT 時的行為底線。新規嚴格限制自殘、浪漫扮演及保密請求，並鼓勵尋求現實求助。OpenAI 還正測試年齡預測模型，無法確認年齡時預設啟用青少年保護。
OpenAI 釋出 GPT-5.2-Codex：強化長程重構與網路安全能力
OpenAI 推出面向軟體工程的智慧體編碼模型 GPT-5.2-Codex。新模型優化了長上下文壓縮，更擅長處理大型程式碼重構與遷移，並在防禦性網路安全測試中表現亮眼。目前已面向 ChatGPT 付費使用者開放 Codex 訪問，API 也將在未來幾週上線。
Anthropic 升級 AI 小賣部實驗：給店員配了個愛聊天的 AI CEO
Anthropic 公佈了 AI 店員實驗 Project Vend 第二階段結果。模型換成了 Sonnet 4.0 與 4.5，還加入了 CRM 等工具及管理店員的 AI CEO。雖然小店開始盈利，但 AI 仍容易被員工忽悠，甚至差點違規炒洋蔥期貨。
YouTube 封禁兩大 AI 假預告片頻道：播放超 10 億次，涉嫌違規誤導
YouTube 封禁了 Screen Culture 和 KH Studio 兩個靠 AI 拼湊假預告片的頻道。二者訂閱合計超 200 萬、播放量超 10 億次。由於它們近期移除了「概念預告」等免責說明，違反了平臺的垃圾內容與誤導性後設資料政策。
桑德斯呼籲暫停在美新建 AI 資料中心：別讓 1% 的人壟斷紅利
美國參議員 Bernie Sanders 發文呼籲暫停在美新建 AI 資料中心。他認為，不受監管的 AI 擴張正消耗鉅額水電，把基建成本轉嫁給公眾，讓財富集中在少數科技巨頭手中。暫緩建設旨在給立法留出時間，確保技術紅利惠及大眾。
Joseph Gordon-Levitt 成立 AI 創作者聯盟：對抗科技巨頭不道德行為
演員兼創作者 Joseph Gordon-Levitt 宣佈成立 Creators Coalition on AI 組織。他指出，創作者正普遍面臨大型 AI 公司不道德商業行徑的威脅。該聯盟呼籲各領域創作者加入並共同維權。