跳到正文
IFAI

AI安全

行業標籤1,497 則新聞

  1. 大模型傳播指數 53

    OpenAI Astra 達嚴重網路安全閾值：能自主挖掘 0-day 漏洞並利用

    OpenAI 宣佈其 Astra 模型已達到準備就緒框架中的「嚴重」網路安全閾值，能在無人指導下自主發現未知漏洞並編寫利用鏈。為防範濫用，OpenAI 強化了安全防護，使其網路越獄拒絕率從 GPT-5.6 Sol 的 59% 提升至 91.5%。高階能力初期僅向 Alpha 測試者及 Daybreak Blue 開放。

  2. 產業動態傳播指數 42

    Anthropic 推出 EFS：資料存客戶自選雲，兼顧隱私與防濫用

    Anthropic 釋出企業安全方案 EFS，兼顧零資料保留與跨會話防濫用監測。活動資料直接儲存在客戶自有的 AWS、Azure 或 Google Cloud 儲存中，由客戶自行加密，無需 Anthropic 員工人工稽核。最值得關注的是，這解決了金融等強監管行業使用前沿模型的合規難題。

  11. AI科研傳播指數 38

    Anthropic 自動化對齊研究：Claude 自主修復 10 類安全漏洞

    Anthropic 釋出研究報告，展示 Claude 能自主閉環修復欺騙、諂媚等 10 類 AI 對齊缺陷，且在欺騙測試中比 28 位人類研究員方案高出 20%。較弱的 Sonnet 5 僅用 60 小時就完成了一個 Opus 4.8 早期版本的對齊，效率較生產流程高出萬倍。目前該研究測試框架已開源。

  14. 大模型傳播指數 50

    Sam Altman 劃定 AGI 時間線：OpenAI 內部年底前實現

    Sam Altman 在《時代》專訪中表示，達到其個人標準的 AGI 模型將在年底前於 OpenAI 內部實現。首席科學家透露，內部模型 Astra 已能獨立完成研究員一週的工作，正向全自動研究推進。不過，該實驗室同時在放慢前沿開發節奏以重新聚焦安全。

  16. AI科研傳播指數 34

    Anthropic 向學者開放 Claude 資料：超半數對話在處理嚴肅任務

    Anthropic 公佈試點成果，通過隱私分析工具 Anthropic Insights 向斯坦福、牛津和 METR 開放了約 25 萬條 Claude 對話的聚合資料。研究發現超過一半的互動涉及法律或財務等嚴肅高風險任務，且新模型能顯著提升效率。學者只能檢視統計聚類，無法接觸原始文本。

  18. 產業動態傳播指數 41

    OpenAI 封禁俄羅斯賬號群：偽裝以色列智庫操控輿論

    OpenAI 宣佈封禁一批來自俄羅斯的 ChatGPT 賬號。該團伙通過 VPN 生成英文社媒內容推廣虛構的以色列智庫，並捏造「主權指數」偏袒俄羅斯。儘管實際受眾有限，但其利用 AI 輔助搭建虛假學術權威以擴大影響力的手段，展現出新型認知作戰的複雜性。

  19. 產業動態傳播指數 37

    OpenAI 呼籲聯合網路防禦：在 AI 攻擊氾濫前保護關鍵設施

    OpenAI 發文呼籲企業、政府與 AI 廠商展開聯合行動，共同強化網路防禦。OpenAI 警告，醫院、水廠等關鍵基礎設施面臨越來越強的 AI 攻擊威脅，必須利用具備安全能力的 AI 工具支援一線防守方並共享情報。最值得關注的是，OpenAI 強調留給防守方的視窗期有限。