Meta 发布开源模型 Llama 3：推 8B 和 70B 版本，训练数据达 15T
Meta 正式发布开源大模型 Llama 3，首发推出 8B 和 70B 两种尺寸的基础与指令微调版本。新模型基于超 15 万亿 token 训练，词表扩充至 12.8 万，8B 版本在消费级显卡上即可微调与运行。最值得关注的是，开源生态再次迎来标杆级底座；不过当前上下文长度仍为 8k tokens。
Meta 正式发布开源大模型 Llama 3，首发推出 8B 和 70B 两种尺寸的基础与指令微调版本。新模型基于超 15 万亿 token 训练，词表扩充至 12.8 万，8B 版本在消费级显卡上即可微调与运行。最值得关注的是，开源生态再次迎来标杆级底座；不过当前上下文长度仍为 8k tokens。