跳到正文
IFAI

ChatGPT Atlas

產品5 則新聞

  1. 大模型傳播指數 54

    OpenAI 加固 ChatGPT Atlas:用自動化紅隊防禦提示注入

    OpenAI 公佈針對 ChatGPT Atlas 瀏覽器智慧體的安全更新。官方利用強化學習訓練的自動化紅隊系統模擬複雜多步攻擊,在外部利用出現前主動發現新型提示注入漏洞,並將對抗訓練成果直接推給全量使用者,防止智慧體被惡意網頁或郵件劫持。