微軟推出 13B 模型 Orca：模仿 GPT-4 思考過程，推理打平 ChatGPT
微軟研究院公佈 130 億引數模型 Orca。它通過學習 GPT-4 的逐步推理過程，在 BBH 推理測試中表現追平 ChatGPT，比 Vicuna 提升 100%。這意味著輕量模型不用依賴龐大數據中心也能擁有紮實推理能力，不過在綜合考試表現上它仍落後於 GPT-4。
Vicuna
Stability AI 推出 StableVicuna：首個用 RLHF 調優的開源對話大模型
Stability AI 釋出首個通過人類反饋強化學習（RLHF）訓練的大規模開源聊天模型 StableVicuna-13B。該模型基於 Vicuna-13B，結合 Anthropic 與 OpenAssistant 等偏好資料集，用 trlX 完成 PPO 強化學習。最值得關注的是，它把此前多被閉源獨佔的 RLHF 完整流程帶入了開源社群。模型權重差量已在 Hugging Face 開放下載。