跳到正文
IFAI

AI安全

行業標籤1,497 則新聞

  1. 產業動態傳播指數 42

    佛州一中學 AI 把單簧管認成槍:觸發全校緊急封鎖

    據 TechSpot 報道,佛羅里達州一所中學的 AI 槍支檢測系統將學生攜帶的單簧管誤判為槍械,觸發了最高級別的紅色程式碼封鎖。涉事系統由 ZeroEyes 提供,原本設有經過人工複核的流程,但這次兩道防線全失靈。事件引發了對校園 AI 監控誤報和透明度的質疑。

  2. 產業動態傳播指數 56

    剛跟 OpenAI 簽約,迪士尼就向 Google 發函指控「大規模侵權」

    據 The Verge 報道,迪士尼向 Google 傳送停終信,指控 Gemini、Veo 等 AI 模型大規模侵權,未經授權生成《冰雪奇緣》、漫威和星戰角色充當「虛擬自動售貨機」。而在此前一天,迪士尼剛與 OpenAI 達成十億美元級交易授權 Sora 使用旗下 200 多個角色。Google 則回應稱使用了公開網頁資料,並具備版權控制機制。

  3. AI工具傳播指數 39

    Anthropic 升級防線:Claude Opus 4.5 抗提示注入,外掛進 Beta

    Anthropic 公佈瀏覽器 AI 的提示注入防禦進展,Claude Opus 4.5 在面對網頁惡意隱藏指令時展現出更強魯棒性,Claude for Chrome 擴充套件也從預覽轉入 Beta。通過強化學習訓練與分類器,攻擊成功率降至 1%。最值得關注的是智慧體能更安全地代人瀏覽網頁,不過官方坦言 1% 仍代表實際風險,問題遠未徹底解決。