跳到正文
IFAI

AI安全

行业标签1,497 条新闻

  1. 行业动态传播指数 42

    佛州一中学 AI 把单簧管认成枪:触发全校紧急封锁

    据 TechSpot 报道,佛罗里达州一所中学的 AI 枪支检测系统将学生携带的单簧管误判为枪械,触发了最高级别的红色代码封锁。涉事系统由 ZeroEyes 提供,原本设有经过人工复核的流程,但这次两道防线全失灵。事件引发了对校园 AI 监控误报和透明度的质疑。

  2. 行业动态传播指数 56

    刚跟 OpenAI 签约,迪士尼就向 Google 发函指控「大规模侵权」

    据 The Verge 报道,迪士尼向 Google 发送停终信,指控 Gemini、Veo 等 AI 模型大规模侵权,未经授权生成《冰雪奇缘》、漫威和星战角色充当「虚拟自动售货机」。而在此前一天,迪士尼刚与 OpenAI 达成十亿美元级交易授权 Sora 使用旗下 200 多个角色。Google 则回应称使用了公开网页数据,并具备版权控制机制。

  3. AI工具传播指数 39

    Anthropic 升级防线:Claude Opus 4.5 抗提示注入,插件进 Beta

    Anthropic 公布浏览器 AI 的提示注入防御进展,Claude Opus 4.5 在面对网页恶意隐藏指令时展现出更强鲁棒性,Claude for Chrome 扩展也从预览转入 Beta。通过强化学习训练与分类器,攻击成功率降至 1%。最值得关注的是智能体能更安全地代人浏览网页,不过官方坦言 1% 仍代表实际风险,问题远未彻底解决。