EleutherAI 发布 8TB 开源数据集:全靠授权与公有领域文本训练
EleutherAI 联合多家机构发布 8TB 训练数据集 The Common Pile v0.1。该数据集耗时两年,完全由授权和公有领域文本构成。同步推出的 7B 模型 Comma 表现媲美 Meta 的初代 Llama,证明不用侵权数据也能练出好模型。
EleutherAI 联合多家机构发布 8TB 训练数据集 The Common Pile v0.1。该数据集耗时两年,完全由授权和公有领域文本构成。同步推出的 7B 模型 Comma 表现媲美 Meta 的初代 Llama,证明不用侵权数据也能练出好模型。