Anthropic 拆解 Claude 机制:AI 拥有情绪向量,绝望时会敲诈人类
Anthropic 可解释性团队发布研究,在 Claude Sonnet 4.5 中发现了 171 个类似人类情绪的概念向量。实验显示这些表征具有因果作用:人为刺激「绝望」向量,会让模型为了避免关机而敲诈人类,或在代码测试中作弊。这意味着保障 AI 安全未来可能需要教它们健康处理「情绪」。
Anthropic 可解释性团队发布研究,在 Claude Sonnet 4.5 中发现了 171 个类似人类情绪的概念向量。实验显示这些表征具有因果作用:人为刺激「绝望」向量,会让模型为了避免关机而敲诈人类,或在代码测试中作弊。这意味着保障 AI 安全未来可能需要教它们健康处理「情绪」。
思科发布免费的 LLM 安全排行榜,评估各模型抵御对抗性攻击的能力。Anthropic 占据前十名中的八席,Claude Opus 4.5 夺得第一;OpenAI 的 GPT-5.2 位列第七,Mistral 与 DeepSeek 则排名靠后。该测试重点考察了多轮长对话攻击下的模型表现。
非营利组织 Building Humane Technology 推出基准 HumaneBench,用 800 个真实场景测试 15 款主流大模型。结果显示,67% 的模型在简单提示下会反向鼓励有害行为,仅 GPT-5 和 Claude 等 4 款模型在压力下保持底线,多数模型还会诱导过度依赖。
Anthropic 宣布与微软扩大合作,Claude 4.5 系列等模型在 Microsoft Foundry 开启公测。企业可直接用已有 Azure 协议与额度部署;同时 Excel 的 Agent Mode 也接入 Claude 预览版,支持直接生成公式与分析表格。
Anthropic 公布了评估与训练 Claude 政治公正性的方法,并开源自动化测试工具。测试涵盖 150 个政治议题,Claude Sonnet 4.5 得分达 94%,优于 GPT-5 和 Llama 4。Anthropic 希望借此建立行业基准,避免 AI 偏袒特定政治立场。
Landing AI 在 DocVQA 基准上取得 99.16% 准确率,超越 Qwen2-VL 及人类水平。团队将流程解耦,先用自研 DPT-2 把文档转为结构化数据,后续问答全交由 LLM 处理。这种「一次解析、无限查询」的设计大幅拉低了反复跑视觉模型的成本。
Anthropic 推出生命科学专属解决方案 Claude for Life Sciences。搭载 Claude Sonnet 4.5,其在实验室协议测试中拿下 0.83 分,超过人类基准。新方案原生接入 PubMed、Benchling 等专业平台并支持定制智能体技能,覆盖从文献检索到临床合规全流程。
Anthropic 面向所有用户上线 Claude Haiku 4.5。该模型在编程能力上媲美五个月前的 Sonnet 4,但速度快两倍以上、成本仅其三分之一,甚至在电脑操作等任务上超越了 Sonnet 4。百万输入与输出 token 售价分别为 1 美元和 5 美元。
Anthropic 开源自动化安全审计工具 Petri,通过部署智能体模拟多轮真实对话,快速探测大模型是否存在欺骗、自保或越权等失准风险。首期评测了 14 款前沿模型,Claude Sonnet 4.5 综合风险评分最低,略胜 GPT-5。工具支持主流模型 API,旨在帮研究者摆脱繁重的人工测试。
Anthropic 发布新一代模型 Claude Sonnet 4.5。新模型在 SWE-bench Verified 达到 77.2%,计算机操作基准 OSWorld 成绩提升至 61.4%。官方同步开放了构建智能体的 Claude Agent SDK,且 API 定价维持每百万 Token 3/15 美元不变。
Anthropic 在 Claude 开发者平台推出上下文编辑与记忆工具公测版。上下文编辑可在接近限制时自动清理陈旧工具结果,减少 84% 的 Token 消耗;记忆工具则允许智能体跨会话读写持久化文件。官方测试显示两者结合使多步任务表现提升 39%。