#The Common Pile v0.1

17:39AI科研傳播指數 36

EleutherAI 釋出 8TB 開源資料集：全靠授權與公有領域文本訓練

EleutherAI 聯合多家機構釋出 8TB 訓練資料集 The Common Pile v0.1。該資料集耗時兩年，完全由授權和公有領域文本構成。同步推出的 7B 模型 Comma 表現媲美 Meta 的初代 Llama，證明不用侵權資料也能練出好模型。