EleutherAI, 8TB 규모 합법·공용 텍스트 AI 훈련 데이터셋 공개
EleutherAI가 2년간 구축한 8TB 크기의 AI 훈련 데이터셋 'The Common Pile v0.1'을 공개했다. 허가받은 저작물과 퍼블릭 도메인 텍스트로만 구성됐으며, 이를 기반으로 훈련한 7B 크기의 Comma 모델은 초기 Llama 수준의 벤치마크 성능을 입증했다.
EleutherAI가 2년간 구축한 8TB 크기의 AI 훈련 데이터셋 'The Common Pile v0.1'을 공개했다. 허가받은 저작물과 퍼블릭 도메인 텍스트로만 구성됐으며, 이를 기반으로 훈련한 7B 크기의 Comma 모델은 초기 Llama 수준의 벤치마크 성능을 입증했다.