Stability AI 推出 StableVicuna:首个用 RLHF 调优的开源对话大模型
Stability AI 发布首个通过人类反馈强化学习(RLHF)训练的大规模开源聊天模型 StableVicuna-13B。该模型基于 Vicuna-13B,结合 Anthropic 与 OpenAssistant 等偏好数据集,用 trlX 完成 PPO 强化学习。最值得关注的是,它把此前多被闭源独占的 RLHF 完整流程带入了开源社区。模型权重差量已在 Hugging Face 开放下载。
Stability AI 发布首个通过人类反馈强化学习(RLHF)训练的大规模开源聊天模型 StableVicuna-13B。该模型基于 Vicuna-13B,结合 Anthropic 与 OpenAssistant 等偏好数据集,用 trlX 完成 PPO 强化学习。最值得关注的是,它把此前多被闭源独占的 RLHF 完整流程带入了开源社区。模型权重差量已在 Hugging Face 开放下载。