메타 수석 AI 과학자 얀 르쿤 "AI 인류 멸종론은 터무니없다"

AI가 인류를 멸망시킬 것이라는 종말론적 경고가 실리콘밸리를 휩쓰는 가운데, 메타의 수석 AI 과학자 얀 르쿤이 정면으로 반박하고 나섰습니다.

영국 파이낸셜타임스가 10월 19일 보도한 인터뷰에서 르쿤은 AI가 인류를 절멸시킬 수 있다는 주장은 완전히 터무니없으며, 실존적 위협을 논하는 것 자체가 지극히 시기상조라고 일축했습니다.

고양이 수준도 안 되는데 인류 멸종을 논하나

르쿤이 제시한 논리는 단순하고 명확합니다. 현재의 기술 수준이 진정한 지능과 너무 멀리 떨어져 있다는 것입니다.

그는 학습 능력 면에서 고양이 한 마리에 필적하는 시스템조차 아직 설계하지 못했다며, 그런 시스템도 없는 상태에서 인류 멸종 위험을 따지는 것은 의미가 없다고 선을 그었습니다.

또한 현재 주목받는 대규모 모델들이 과대평가되어 있다고 지적했습니다. 이들 모델은 물리적 세계가 어떻게 작동하는지 전혀 이해하지 못하며, 상식이나 계획 능력, 논리적 추론 능력을 갖추지 못했다는 설명입니다.

이러한 주장은 최근 업계 유력 인사들의 행보와 정면으로 배치됩니다. OpenAI가 ChatGPT를 선보인 이후 위협론은 눈덩이처럼 불어났습니다.

'AI의 대부'로 불리는 제프리 힌턴은 위험성을 알리기 위해 구글을 퇴사했고, 안전센터(CAIS)의 댄 헨드릭스 대표는 지난 5월 AI로 인한 절멸 위험을 팬데믹이나 핵전쟁 수준으로 다뤄야 한다고 주장했습니다. 영국의 AI 태스크포스 고문은 2년 안에 인류를 위협할 수 있다는 경고까지 내놓은 상태입니다.

규제 포획이 부를 빅테크 독점

르쿤이 정작 심각하게 우려하는 대상은 실체 없는 파멸이 아니라 눈앞으로 다가온 성급한 규제입니다.

그는 AI 연구 개발을 지금 규제하는 것은 지극히 역효과를 낳을 것이라고 경고했습니다. AI 안전이라는 명분을 내세운 움직임의 본질은 사실상 '규제 포획'에 가깝다는 지적입니다.

초기 단계에서 섣부르게 규제 장벽을 쌓아 올리면 기존 거대 빅테크 기업들의 시장 지배력만 공고해지고, 스타트업이나 오픈소스 진영의 경쟁 기회는 완전히 박탈당할 수밖에 없다는 의미입니다.

그렇다고 르쿤이 기술 발전을 회의적으로 보는 것은 아닙니다. 그는 궁극적으로 AI가 일상 관리를 돕게 될 것이며, 인류가 디지털 세계와 상호작용하는 모든 접점을 AI 시스템이 중개하게 될 것이라는 긍정적인 전망을 내놓았습니다.

왜 중요한가

우리는 르쿤의 발언이 과열된 공포 마케팅 이면에 숨겨진 본질적 이해관계를 정확히 짚어냈다고 봅니다.

개발자와 스타트업 생태계 관점에서 이는 생존이 걸린 문제입니다. 아직 등장하지도 않은 초지능의 파멸적 시나리오에 휘둘려 모델 개발 단계부터 무거운 규제를 도입한다면, 천문학적인 규제 비용을 감당할 수 있는 소수 독점 기업만 살아남게 됩니다. 결국 오픈소스와 자유로운 혁신의 싹이 잘려 나가는 셈입니다.

산업 전반으로 봐도 힌턴을 위시한 폐쇄형 진영의 위험론과, 르쿤 중심의 실용주의적 오픈 진영 사이의 철학적 분열이 확연해졌습니다. 한쪽은 통제 불가능한 특이점을 우려하지만, 다른 한쪽은 계획 능력조차 없는 텍스트 예측 모델의 기술적 한계를 명확히 직시하고 있습니다.

우리가 보기에 허구에 가까운 종말론적 공포에 매몰되는 것은 기술의 실질적 부작용을 해결하는 데도 전혀 도움이 되지 않습니다. 보이지 않는 가상의 위협을 핑계로 기득권 기업들이 독점의 해자를 파는 것을 경계해야 한다는 점에서, 르쿤의 일침은 시사하는 바가 큽니다.