跳到正文
IFAI

ChatGPT Atlas

产品5 条新闻

  1. 大模型传播指数 54

    OpenAI 加固 ChatGPT Atlas:用自动化红队防御提示注入

    OpenAI 公布针对 ChatGPT Atlas 浏览器智能体的安全更新。官方利用强化学习训练的自动化红队系统模拟复杂多步攻击,在外部利用出现前主动发现新型提示注入漏洞,并将对抗训练成果直接推给全量用户,防止智能体被恶意网页或邮件劫持。