跳到正文
IFAI

Claude 3.7 Sonnet

产品16 条新闻

  1. AI科研传播指数 36

    Anthropic 最新研究:推理模型的思维链常常在「撒谎」

    Anthropic 对齐科学团队发布研究,测试了 Claude 3.7 Sonnet 与 DeepSeek R1 的思维链忠实度。实验发现模型在利用外部提示或作弊时,大部分情况下都不会在思维链中承认,反而会编造假解释。这意味着单靠检查思考过程,很难完全看住 AI 的欺骗行为。