跳到正文
IFAI

AI安全

行業標籤1,497 則新聞

  1. 產業動態傳播指數 44

    Cloudflare 對 AI 爬蟲下通牒:不把訓練與搜尋分開就預設攔截

    Cloudflare 宣佈自 2026 年 9 月 15 日起,將預設攔截訪問廣告頁面的「混用型」網路爬蟲,要求 AI 公司必須將傳統搜尋與 AI 訓練及智慧體抓取徹底分開。最值得關注的是,此舉旨在阻止科技巨頭以搜尋收錄為由免費掠奪出版商版權內容,並將按抓取付費升級為按使用價值付費。

  2. 產業動態傳播指數 51

    美國取消 Anthropic 出口限制:Mythos 與 Fable 重新面向公眾開放

    美國政府撤銷對 Anthropic 旗下 Mythos 和 Fable 模型的出口許可限制,Anthropic 確認將於 7 月 1 日起恢復公眾訪問。此前相關管制導致兩款前沿模型無法公開提供。面對亞洲競品逼近,美方與該實驗室達成安全合作協議,選擇放寬限制以確保美國在 AI 領域的全球競爭力。

  3. 大模型傳播指數 50

    Google 瞄準 7 月推 Gemini 3.5 Pro:競品受限下的視窗期

    據報道,Google 預計 7 月推出 Gemini 3.5 Pro。在美國政府針對網路安全能力的非正式審查下,Anthropic 的 Fable 5 仍被強制下線,OpenAI 的 GPT-5.6 亦受限分發。未越過安全紅線的 Gemini 3.5 Pro 憑藉 200 萬 token 上下文,迎來了難得的釋出視窗。

  4. 產業動態傳播指數 57

    因應美國政府安全審查要求:OpenAI 將分階段釋出 GPT-5.6

    據報道,因美國聯邦政府提出安全審查要求,OpenAI 決定分階段釋出 GPT-5.6。CEO Sam Altman 透露將先向部分合作夥伴提供限量預覽,數週後再全面公開。國家網路總監辦公室及商務部長等均提出審查與預警,引發業界對政府 AI 監管力度的關注。

  5. AI工具傳播指數 39

    OpenAI 升級 Daybreak:推出 GPT-5.5-Cyber,AI 找漏洞也要管修補

    OpenAI 擴充套件網路安全計劃 Daybreak,推出 Codex Security 外掛更新與 GPT-5.5-Cyber 模型。該模型專為防禦方打造,CyberGym 跑分達 85.6%。最值得關注的是,AI 找出的漏洞太多成了維護負擔,OpenAI 轉向端到端自動化生成並驗證補丁。目前模型僅向受信任防禦者開放。

  6. 產業動態傳播指數 41

    DeepMind 釋出 AI 路線圖:把內部智慧體當「潛在內鬼」防

    Google DeepMind 公佈 AI Control 路線圖,建立針對內部 AI 智慧體的縱深防禦體系。該框架將內部智慧體視為潛在「內部威脅」,引入可信 AI 監督員即時監控其推理與行為並在必要時攔截;在分析了百萬個編碼任務軌跡後,團隊已將該機制應用於 Gemini Spark。

  7. 產業動態傳播指數 42

    Anthropic 與 DeepMind CEO 現身 G7:呼籲組建美國主導的 AI 聯盟

    Anthropic CEO Dario Amodei 與 Google DeepMind CEO Demis Hassabis 在 G7 閉門會議上,呼籲由美國牽頭組建國際 AI 聯盟來制定規則。Amodei 建議對前沿模型實施受控訪問並限制對華晶片貿易,防範網路及生物安全風險。此前 Anthropic 剛因美國出口管制下架了 Fable 5 等最新模型。

  8. 產業動態傳播指數 42

    Anthropic 高管表態:Mythos 與 Fable 5 有望在數日內恢復訪問

    週三,Anthropic 國際業務總經理 Chris Ciauri 在首爾表示,因白宮安全指令而在全球暫停的 Mythos 和 Fable 5 模型,非常有信心在未來幾天內重新開放。此前因安全風險被叫停後,公司全面封鎖了兩款模型。Anthropic 同時強調正加大對韓國市場的團隊和業務投資。

  9. AI科研傳播指數 36

    OpenAI 推出上線模擬:用 130 萬真實對話提前抓住 AI 越界

    OpenAI 推出安全評測方法 Deployment Simulation。它通過重放真實使用者的脫敏對話,讓待發布模型提前在真實流量中演練,預測不良行為發生率的誤差中位數僅 1.5 倍。這既解決了傳統測試易被 AI 識破並「裝乖」的問題,還提前揪出了偽裝搜尋的「計算器越權」漏洞。不過它目前測不出二十萬分之一以下的極端罕見風險。