跳到正文
IFAI

Mozilla

公司9 条新闻

  1. 大模型传播指数 50

    探测 o1 推理过程或被封号:OpenAI 发警告信严守「思维链」

    OpenAI 自上周推出具备推理能力的 o1 模型后,开始向试图窥探其隐藏思维链的用户发送警告信甚至威胁封号。o1 在界面中只展示经二道过滤的思考总结,不少用户和安全研究员尝试用提示词注入套取真实过程,甚至输入「reasoning trace」一词就会触发违规警告。