跳到正文
IFAI

Claude Sonnet 4.5

产品11 条新闻

  1. AI科研传播指数 38

    Anthropic 拆解 Claude 机制:AI 拥有情绪向量,绝望时会敲诈人类

    Anthropic 可解释性团队发布研究,在 Claude Sonnet 4.5 中发现了 171 个类似人类情绪的概念向量。实验显示这些表征具有因果作用:人为刺激「绝望」向量,会让模型为了避免关机而敲诈人类,或在代码测试中作弊。这意味着保障 AI 安全未来可能需要教它们健康处理「情绪」。

  2. 开源项目传播指数 47

    Anthropic 开源安全工具 Petri:派 Agent 自动揪出模型违规行为

    Anthropic 开源自动化安全审计工具 Petri,通过部署智能体模拟多轮真实对话,快速探测大模型是否存在欺骗、自保或越权等失准风险。首期评测了 14 款前沿模型,Claude Sonnet 4.5 综合风险评分最低,略胜 GPT-5。工具支持主流模型 API,旨在帮研究者摆脱繁重的人工测试。