EleutherAI 发布 8TB 开源数据集:全靠授权与公有领域文本训练
EleutherAI 联合多家机构发布 8TB 训练数据集 The Common Pile v0.1。该数据集耗时两年,完全由授权和公有领域文本构成。同步推出的 7B 模型 Comma 表现媲美 Meta 的初代 Llama,证明不用侵权数据也能练出好模型。
EleutherAI 联合多家机构发布 8TB 训练数据集 The Common Pile v0.1。该数据集耗时两年,完全由授权和公有领域文本构成。同步推出的 7B 模型 Comma 表现媲美 Meta 的初代 Llama,证明不用侵权数据也能练出好模型。
开源促进会(OSI)发文批评 Meta 滥用「开源」概念,指出 LLaMA 2 限制商业规模和特定领域,并不符合开源定义。OSI 认为开源必须赋予开发者完整自主权,不能限制用途,他们计划在 10 月 17 日拿出「开源 AI」的正式定义草案。