跳到正文
IFAI

Mozilla

公司9 則新聞

  1. 大模型傳播指數 50

    探測 o1 推理過程或被封號:OpenAI 發警告信嚴守「思維鏈」

    OpenAI 自上週推出具備推理能力的 o1 模型後,開始向試圖窺探其隱藏思維鏈的使用者傳送警告信甚至威脅封號。o1 在介面中只展示經二道過濾的思考總結,不少使用者和安全研究員嘗試用提示詞注入套取真實過程,甚至輸入「reasoning trace」一詞就會觸發違規警告。