Stability AI 推出 StableVicuna:首个用 RLHF 调优的开源对话大模型
Stability AI 发布首个通过人类反馈强化学习(RLHF)训练的大规模开源聊天模型 StableVicuna-13B。该模型基于 Vicuna-13B,结合 Anthropic 与 OpenAssistant 等偏好数据集,用 trlX 完成 PPO 强化学习。最值得关注的是,它把此前多被闭源独占的 RLHF 完整流程带入了开源社区。模型权重差量已在 Hugging Face 开放下载。
Stability AI 发布首个通过人类反馈强化学习(RLHF)训练的大规模开源聊天模型 StableVicuna-13B。该模型基于 Vicuna-13B,结合 Anthropic 与 OpenAssistant 等偏好数据集,用 trlX 完成 PPO 强化学习。最值得关注的是,它把此前多被闭源独占的 RLHF 完整流程带入了开源社区。模型权重差量已在 Hugging Face 开放下载。
开发者 Simon Willison 发文称大模型正迎来类似 Stable Diffusion 的开源拐点。通过开源项目 llama.cpp 的 4-bit 量化技术,7B 与 13B 版本的 LLaMA 模型已能直接在 MacBook 上本地流畅运行,打破了原本需要高昂云端算力的门槛。
Meta 发布基础大语言模型 LLaMA,提供 70 亿至 650 亿参数等多个版本。模型主打更小体积与更低算力消耗,其中 130 亿参数版本训练量达 1 万亿 token。不过目前仅以非商业研究许可面向科研机构与学术人员开放申请。