OpenAI, GPT-4의 오류 잡아내는 'CriticGPT' 공개
OpenAI는 ChatGPT의 코드 오류를 찾아내는 모델 'CriticGPT'를 공개했다. 인간 트레이너가 CriticGPT의 도움을 받을 경우 단독 작업보다 오류 지적 성과가 60% 더 뛰어났다. OpenAI는 이를 RLHF 파이프라인에 통합해 복잡한 AI의 정렬 난이도를 낮출 계획이다.
OpenAI는 ChatGPT의 코드 오류를 찾아내는 모델 'CriticGPT'를 공개했다. 인간 트레이너가 CriticGPT의 도움을 받을 경우 단독 작업보다 오류 지적 성과가 60% 더 뛰어났다. OpenAI는 이를 RLHF 파이프라인에 통합해 복잡한 AI의 정렬 난이도를 낮출 계획이다.