OpenAI 与 Anthropic 联合安全评测:两大巨头互测对方主力模型
OpenAI 与 Anthropic 公布首次交叉安全评测结果,互用内部工具测试对方的主力模型。测试显示 Claude 4 在指令层级与防泄漏上占优,但拒答率高达 70%;OpenAI o3 则在防越狱上更稳。这是头部实验室首次公开互查安全盲点。
OpenAI 与 Anthropic 公布首次交叉安全评测结果,互用内部工具测试对方的主力模型。测试显示 Claude 4 在指令层级与防泄漏上占优,但拒答率高达 70%;OpenAI o3 则在防越狱上更稳。这是头部实验室首次公开互查安全盲点。
Anthropic 宣布允许 Claude Opus 4 与 4.1 在遭遇持续恶意骚扰或有害互动时主动终止对话。这项调整源于对「AI 福利」的探索试验。会话一旦被 AI 终止,用户将无法在该对话中发言,但仍可新建聊天或编辑历史消息。
Anthropic 宣布将于 8 月 28 日起对 Pro 和 Max 用户增设按周重置的用量上限,以限制部分人 24 小时后台运行 Claude Code 或倒卖账号。原有的 5 小时重置依然保留。官方称这只会影响不到 5% 的极端重度用户,Max 订阅者可通过 API 费率额外加购用量。
Anthropic 推出金融服务分析方案,打通 FactSet、S&P Global 等外部数据与企业内库。Claude Opus 4 在金融建模任务中准确率达 83%,生成内容均附带信源超链接供核查,且默认不拿用户数据训练。
Anthropic 推出 Claude 4 系列,包含 Opus 4 与 Sonnet 4。新模型支持在深度思考中调用工具,大幅提升复杂编程与智能体长流程任务表现。此外 Claude Code 编程工具正式上线,Sonnet 4 也面向免费用户开放。
Anthropic 联手 HackerOne 推出新一期漏洞赏金计划,悬赏最高 2.5 万美元征集未发布系统的「通用越狱」漏洞。该计划针对 Claude 3.7 Sonnet 等模型的安全分类器进行压力测试,重点防范化学生物与核武器风险,以满足 ASL-3 安全标准。