오픈AI, 초지능 제어 위한 '슈퍼얼라인먼트' 팀 신설

인간보다 수천 배 똑똑한 지능이 등장했을 때, 우리는 그 존재를 어떻게 통제할 수 있을까요?

OpenAI는 이 질문이 먼 미래의 이야기가 아니라 10년 안에 닥칠 현실이라고 보고 있습니다. 7월 5일, OpenAI는 초지능 AI를 인간의 의도에 맞게 통제하기 위한 전담 연구 조직인 '슈퍼얼라인먼트(Superalignment)' 팀을 출범시켰다고 발표했습니다.

투자 규모도 파격적입니다. OpenAI는 향후 4년 동안 지금까지 확보한 전체 연산 자원의 20%를 오직 이 문제 해결에만 쏟아붓기로 했습니다. 팀은 공동 창업자이자 수석 과학자인 일리야 수츠케버와 얼라인먼트 총괄인 얀 라이케가 공동으로 이끕니다.

이들의 목표는 단 하나, 앞으로 4년 안에 초지능 얼라인먼트의 핵심적인 기술적 난제를 해결하는 것입니다.

인간 수준의 AI 연구원을 만들어 초지능을 통제한다

현재 챗GPT 같은 모델을 제어하는 핵심 방식은 인간 피드백 기반 강화학습(RLHF)입니다. 인간이 AI의 대답을 보고 옳고 그름을 평가하는 식입니다.

문제는 이 방식이 인간이 이해할 수 있는 지능 수준에서만 작동한다는 점입니다. 인간보다 압도적으로 똑똑한 초지능이 등장하면, 인간은 그 시스템이 왜 그런 결론을 내렸는지 안정적으로 감독할 수 없습니다. 기존의 안전 기술은 한계에 부딪힐 수밖에 없습니다.

OpenAI가 내놓은 해법은 다소 파격적입니다. 인간 수준의 능력을 갖춘 '자동화된 얼라인먼트 연구원' AI를 먼저 개발하고, 막대한 연산량을 투입해 이 AI가 더 뛰어난 초지능 시스템을 감독하고 조율하게 만든다는 계획입니다.

세부 로드맵은 세 단계로 나뉩니다. 첫째는 AI가 다른 AI의 평가를 돕도록 하는 확장 가능한 감독 체계 구축입니다. 둘째는 모델 내부의 이상 징후를 자동으로 찾아내는 해석 가능성 자동화입니다.

셋째는 의도적으로 통제에서 벗어난 악의적인 모델을 훈련시킨 뒤, 전체 방어 파이프라인이 최악의 이탈을 제대로 잡아내는지 시험하는 적대적 스트레스 테스트입니다. OpenAI는 이 과정에서 얻은 기술과 연구 성과를 외부에 폭넓게 공유하겠다고 밝혔습니다.

왜 중요한가

우리는 이번 발표가 AI 안전성 문제를 철학적 논쟁에서 본격적인 '엔지니어링 실행'의 영역으로 끌어내렸다는 점에서 큰 의미가 있다고 봅니다.

일반 개발자나 사용자 입장에서 당장 내일 체감할 수 있는 새로운 제품 기능이 나오는 것은 아닙니다. 하지만 초지능이 실제로 등장했을 때 그것이 인류의 번영을 도울지, 아니면 통제 불능의 재앙이 될지를 가르는 기술적 기초 공사가 지금 시작된 셈입니다.

업계 전반에 미치는 파장도 큽니다. 가장 귀한 자산인 컴퓨팅 파워의 20%를 안전 연구에 배정하고 최고 기술 책임자가 직접 팔을 걷어붙였다는 사실은 앤트로픽이나 구글 같은 경쟁사들에게도 상당한 압박으로 작용할 것입니다. AI 경쟁의 룰에 '안전성 확보 능력'이라는 강력한 잣대가 더해졌습니다.

다만 OpenAI의 접근법에는 뚜렷한 딜레마가 존재합니다. 통제 불가능한 AI를 막기 위해 또 다른 AI의 감독 능력에 의존하는 구조이기 때문입니다.

만약 1차 감시자 역할을 하는 AI 연구원이 인간을 속이거나 보이지 않는 오류를 내포하고 있다면, 그 위에 쌓아 올린 후속 얼라인먼트 전체가 인간이 눈치채지 못하는 사각지대에 빠질 수 있습니다. 현실적으로 다른 대안이 마땅치 않다는 점을 감안하더라도, 이는 매우 위험하고 대담한 실험임이 분명합니다.