#The Common Pile v0.1

17:39AI科研传播指数 36

EleutherAI 发布 8TB 开源数据集：全靠授权与公有领域文本训练

EleutherAI 联合多家机构发布 8TB 训练数据集 The Common Pile v0.1。该数据集耗时两年，完全由授权和公有领域文本构成。同步推出的 7B 模型 Comma 表现媲美 Meta 的初代 Llama，证明不用侵权数据也能练出好模型。