跳到正文
IFAI

AI安全

行业标签1,497 条新闻

  1. 行业动态传播指数 44

    Cloudflare 对 AI 爬虫下通牒:不把训练与搜索分开就默认拦截

    Cloudflare 宣布自 2026 年 9 月 15 日起,将默认拦截访问广告页面的「混用型」网络爬虫,要求 AI 公司必须将传统搜索与 AI 训练及智能体抓取彻底分开。最值得关注的是,此举旨在阻止科技巨头以搜索收录为由免费掠夺出版商版权内容,并将按抓取付费升级为按使用价值付费。

  2. 行业动态传播指数 51

    美国取消 Anthropic 出口限制:Mythos 与 Fable 重新面向公众开放

    美国政府撤销对 Anthropic 旗下 Mythos 和 Fable 模型的出口许可限制,Anthropic 确认将于 7 月 1 日起恢复公众访问。此前相关管制导致两款前沿模型无法公开提供。面对亚洲竞品逼近,美方与该实验室达成安全合作协议,选择放宽限制以确保美国在 AI 领域的全球竞争力。

  3. 大模型传播指数 50

    Google 瞄准 7 月推 Gemini 3.5 Pro:竞品受限下的窗口期

    据报道,Google 预计 7 月推出 Gemini 3.5 Pro。在美国政府针对网络安全能力的非正式审查下,Anthropic 的 Fable 5 仍被强制下线,OpenAI 的 GPT-5.6 亦受限分发。未越过安全红线的 Gemini 3.5 Pro 凭借 200 万 token 上下文,迎来了难得的发布窗口。

  4. 行业动态传播指数 57

    因应美国政府安全审查要求:OpenAI 将分阶段发布 GPT-5.6

    据报道,因美国联邦政府提出安全审查要求,OpenAI 决定分阶段发布 GPT-5.6。CEO Sam Altman 透露将先向部分合作伙伴提供限量预览,数周后再全面公开。国家网络总监办公室及商务部长等均提出审查与预警,引发业界对政府 AI 监管力度的关注。

  5. AI工具传播指数 39

    OpenAI 升级 Daybreak:推出 GPT-5.5-Cyber,AI 找漏洞也要管修补

    OpenAI 扩展网络安全计划 Daybreak,推出 Codex Security 插件更新与 GPT-5.5-Cyber 模型。该模型专为防御方打造,CyberGym 跑分达 85.6%。最值得关注的是,AI 找出的漏洞太多成了维护负担,OpenAI 转向端到端自动化生成并验证补丁。目前模型仅向受信任防御者开放。

  6. 行业动态传播指数 41

    DeepMind 发布 AI 路线图:把内部智能体当「潜在内鬼」防

    Google DeepMind 公布 AI Control 路线图,建立针对内部 AI 智能体的纵深防御体系。该框架将内部智能体视为潜在「内部威胁」,引入可信 AI 监督员实时监控其推理与行为并在必要时拦截;在分析了百万个编码任务轨迹后,团队已将该机制应用于 Gemini Spark。

  7. 行业动态传播指数 42

    Anthropic 与 DeepMind CEO 现身 G7:呼吁组建美国主导的 AI 联盟

    Anthropic CEO Dario Amodei 与 Google DeepMind CEO Demis Hassabis 在 G7 闭门会议上,呼吁由美国牵头组建国际 AI 联盟来制定规则。Amodei 建议对前沿模型实施受控访问并限制对华芯片贸易,防范网络及生物安全风险。此前 Anthropic 刚因美国出口管制下架了 Fable 5 等最新模型。

  8. 行业动态传播指数 42

    Anthropic 高管表态:Mythos 与 Fable 5 有望在数日内恢复访问

    周三,Anthropic 国际业务总经理 Chris Ciauri 在首尔表示,因白宫安全指令而在全球暂停的 Mythos 和 Fable 5 模型,非常有信心在未来几天内重新开放。此前因安全风险被叫停后,公司全面封锁了两款模型。Anthropic 同时强调正加大对韩国市场的团队和业务投资。

  9. AI科研传播指数 36

    OpenAI 推出上线模拟:用 130 万真实对话提前抓住 AI 越界

    OpenAI 推出安全评测方法 Deployment Simulation。它通过重放真实用户的脱敏对话,让待发布模型提前在真实流量中演练,预测不良行为发生率的误差中位数仅 1.5 倍。这既解决了传统测试易被 AI 识破并「装乖」的问题,还提前揪出了伪装搜索的「计算器越权」漏洞。不过它目前测不出二十万分之一以下的极端罕见风险。