프린스턴대 ATLA 공개: GPT-3 언어 설명으로 로봇 팔 도구 조작 학습 가속

아이에게 도구 사용법을 가르칠 때 말없이 도구만 쥐여주고 알아서 깨우치길 바라는 부모는 없습니다. 망치를 건네며 "끝 쪽 손잡이를 잡고 무거운 쇠 부분으로 내려치는 거야"라고 형태와 용도를 말로 설명해 줍니다.

하지만 지금까지의 로봇 팔 학습은 사실상 말없는 암흑 속 시행착오에 가까웠습니다. 카메라와 센서 데이터에만 의존해 수천 번씩 허공을 휘저으며 물체의 물리적 특성을 무작정 추측해야 했습니다.

프린스턴 대학교 연구진은 이런 비효율을 깨는 연구인 ATLA(Accelerated Learning of Tool Manipulation with LAnguage)를 발표했습니다. 시뮬레이션 환경의 로봇 팔에 대형 언어 모델 GPT-3가 생성한 도구 설명을 입력했더니, 새로운 도구를 다루는 학습 속도가 눈에 띄게 빨라졌습니다.

GPT-3를 로봇의 도구 매뉴얼로 쓰다

연구진은 수십 가지 도구의 특징을 일일이 수작업으로 작성하거나 웹사이트를 긁어모으는 대신, OpenAI의 GPT-3에 프롬프트를 넣어 도구의 형태와 쓰임새를 과학적이고 상세하게 서술하도록 했습니다.

시뮬레이션 학습에는 도끼부터 유리창 청소용 스퀴지까지 서로 다른 형태의 도구 27종이 쓰였습니다.

로봇 팔에게 주어진 과제는 밀기, 들어 올리기, 도구로 원통을 테이블 위에서 쓸어내기, 못을 구멍에 박기 등 네 가지 기본 동작이었습니다.

연구팀은 메타 학습 구조를 적용했습니다. 로봇 팔은 단순히 눈앞의 도구를 쓰는 법만 배우는 것이 아니라, 텍스트 설명과 물리적 동작의 상관관계를 함께 학습합니다. 논문 공저자인 카르틱 나라심한 교수는 로봇에게 도구 사용법을 가르치는 동시에 영어도 함께 가르치고 있는 셈이라고 설명했습니다.

쇠지렛대의 어느 쪽을 잡아야 하는지 알아채다

훈련을 마친 뒤 학습에 전혀 쓰이지 않았던 새로운 도구 9종으로 성능을 시험했습니다.

결과는 명확했습니다. 언어 정보를 함께 학습한 로봇 팔은 시각과 물리 좌표만으로 학습한 비교군에 비해 새로운 도구를 다루는 성공률과 적응 속도에서 압도적인 우위를 보였습니다.

제1저자인 앨런 Z. 렌 연구원은 쇠지렛대(노루발못뽑이)로 원통형 병을 미는 실험을 대표적인 예로 꼽았습니다.

언어 설명 없이 학습한 로봇은 쇠지렛대의 굽은 머리 바로 옆을 어설프게 쥐어 지렛대 역할을 전혀 살리지 못했고 병을 제어하지 못했습니다. 반면 언어 학습을 거친 로봇은 긴 손잡이 끝을 제대로 잡고, 굽은 곡면을 활용해 병이 밖으로 튀어나가지 않도록 감싸며 밀었습니다.

왜 중요한가

우리는 이 연구가 로봇 분야의 오랜 숙제인 적응력과 일반화 문제를 매우 영리하게 풀어냈다고 봅니다.

세상의 모든 도구를 로봇에게 일일이 3D 데이터로 만들어 학습시키는 것은 비용과 시간 면에서 불가능에 가깝습니다. 하지만 인류가 축적한 도구의 물리적 특성과 상식은 이미 인간의 언어 속에 고스란히 담겨 있습니다. 대형 언어 모델이 인터넷에서 학습한 상식을 로봇의 행동 제어 파이프라인에 그대로 연결할 수 있음을 입증한 것입니다.

초거대 모델이 모터를 직접 세밀하게 제어하게 만드는 대신, 상위 개념을 정리해 주는 가이드로 활용한 구조는 매우 실용적입니다.

물론 이번 실험은 시뮬레이터 내부에서 진행되었기 때문에 현실 세계의 마찰력이나 카메라 노이즈를 극복해야 하는 과제는 여전히 남아 있습니다. 그럼에도 물리적인 로봇을 똑똑하게 만들기 위해 무작정 물리 데이터를 쏟아붓는 대신 언어 모델의 지식을 빌려오는 방식이 훨씬 효율적이라는 점을 명확히 보여주었습니다.