微软推出 13B 模型 Orca：模仿 GPT-4 思考过程，推理打平 ChatGPT
微软研究院公布 130 亿参数模型 Orca。它通过学习 GPT-4 的逐步推理过程，在 BBH 推理测试中表现追平 ChatGPT，比 Vicuna 提升 100%。这意味着轻量模型不用依赖庞大数据中心也能拥有扎实推理能力，不过在综合考试表现上它仍落后于 GPT-4。
Vicuna
Stability AI 推出 StableVicuna：首个用 RLHF 调优的开源对话大模型
Stability AI 发布首个通过人类反馈强化学习（RLHF）训练的大规模开源聊天模型 StableVicuna-13B。该模型基于 Vicuna-13B，结合 Anthropic 与 OpenAssistant 等偏好数据集，用 trlX 完成 PPO 强化学习。最值得关注的是，它把此前多被闭源独占的 RLHF 完整流程带入了开源社区。模型权重差量已在 Hugging Face 开放下载。