MS, 13B 모델 '오르카' 공개: GPT-4 추론 과정 모방해 ChatGPT급 성능
마이크로소프트 연구소가 130억 파라미터 규모의 오픈소스 모델 '오르카(Orca)'를 공개했다. GPT-4의 단계별 추론 과정을 모방 학습해 BBH 벤치마크에서 ChatGPT와 대등한 추론 능력을 기록했다. 대규모 데이터센터 없이도 소형 모델이 뛰어난 논리력을 갖출 수 있음을 보여준다.
마이크로소프트 연구소가 130억 파라미터 규모의 오픈소스 모델 '오르카(Orca)'를 공개했다. GPT-4의 단계별 추론 과정을 모방 학습해 BBH 벤치마크에서 ChatGPT와 대등한 추론 능력을 기록했다. 대규모 데이터센터 없이도 소형 모델이 뛰어난 논리력을 갖출 수 있음을 보여준다.