카파시, 3시간 30분 분량 LLM 심층 해설 영상 무료 공개

거대언어모델(LLM)이 실제로 어떻게 동작하는지 제대로 파악하려다 보면 복잡한 논문과 수식의 벽에 부딪히기 일쑤입니다.

OpenAI 공동 창립자인 안드레이 카파시(Andrej Karpathy)가 유튜브에 3시간 31분 분량의 강의 영상 'Deep Dive into LLMs like ChatGPT'를 공개했습니다.

러닝타임은 웬만한 영화보다 길지만, 카파시는 기술적 배경지식이 없는 일반 대중도 충분히 이해할 수 있도록 설계했다고 밝혔습니다. 복잡한 수식 대신 직접 그린 다이어그램을 바탕으로 모델이 만들어지는 전 과정을 차근차근 짚어줍니다.

사전 학습부터 'LLM 심리학', DeepSeek-R1까지

영상은 LLM 구축 과정을 크게 세 단계인 사전 학습(Pretraining), 지도 미세조정(SFT), 강화학습(RL)으로 나누어 다룹니다.

사전 학습 파트에서는 방대한 인터넷 데이터를 어떻게 정제하고 토큰화하는지 설명합니다. 12억 개 이상의 웹페이지로 구성된 FineWeb 같은 데이터셋의 노이즈 필터링 과정과 BPE(Byte Pair Encoding) 기반 토큰화를 다루며, 일례로 GPT-4는 100,277개의 토큰을 사용한다고 설명합니다.

비용 절감에 대한 구체적인 수치도 흥미롭습니다. 2019년 OpenAI가 16억 개 매개변수의 GPT-2를 처음 훈련할 당시에는 약 4만 달러가 들었지만, 카파시가 자체 개발한 llm.c 라이브러리를 사용하니 단 672달러에 재현할 수 있었습니다. 최적화가 더 진행되면 약 100달러 수준까지 낮아질 수 있다고 덧붙였습니다.

이어지는 미세조정 단계에서는 'LLM 심리학'이라는 개념을 제시합니다. 모델이 왜 환각(할루시네이션)을 일으키는지, 왜 단어 철자나 글자 수를 세는 단순한 작업에서 헤매는지, 그리고 '생각을 하기 위해 왜 토큰이 필요한지'를 명쾌하게 짚어냅니다. 복잡한 질문에 생각할 공간을 주지 않고 즉답을 요구하면 모델은 확률에 의존해 엉뚱한 답을 낼 수밖에 없다는 설명입니다.

마지막 강화학습 파트에서는 기존 RLHF뿐만 아니라 최근 화제가 된 DeepSeek-R1과 알파고의 사례를 들며, 반복 학습과 보상 체계를 통해 모델이 추론 능력을 고도화하는 원리를 해설합니다.

왜 중요한가

업무나 일상에서 생성형 AI를 자주 다루거나 프롬프트를 작성하는 사용자라면 211분의 시간을 투자할 가치가 충분합니다.

겉핥기식 프롬프트 팁을 외우는 대신, 토큰 생성 원리와 작업 기억의 한계를 이해하면 모델에게 생각할 여유를 주는 것만으로도 환각을 획기적으로 줄일 수 있다는 점을 직관적으로 깨닫게 됩니다.

업계 전반으로 봐도 이번 영상의 파급력은 큽니다. 폐쇄적인 빅테크 연구실 내부에서 통용되던 최신 학습 스택과 DeepSeek-R1의 강화학습 메커니즘을 최고 수준의 연구자가 대중의 언어로 완벽히 해체해 공개했기 때문입니다. GPT-2 재현 비용이 수백 달러대로 떨어진 것처럼 AI 기술의 진입 장벽이 낮아지고 있음을 상징적으로 보여줍니다.

복잡한 공학적 세부사항을 누구나 이해할 수 있는 멘탈 모델로 풀어낸 카파시의 전달력은 돋보입니다. 3시간 반이라는 긴 호흡이 다소 부담스러울 수 있지만, 시중에 떠도는 파편화된 해설보다 훨씬 깊이 있고 명쾌한 기준점을 제시해 줍니다.