‘AI 대부’ 제프리 힌턴의 생존법: 초지능 AI에 ‘모성 본능’ 심어야

어른이 사탕 한 개로 세 살배기 아이를 쉽게 구슬리듯, 인간보다 아득히 똑똑한 인공지능이 우리를 조종하게 된다면 인류는 어떻게 살아남아야 할까.

‘AI의 대부’로 불리는 노벨 물리학상 수상자 제프리 힌튼이 미국 라스베이거스에서 열린 Ai4 콘퍼런스에서 이에 대한 파격적인 해법을 내놓았다. 인류가 슈퍼인텔리전스 AI에게 지배당하지 않는 유일한 길은, AI에 ‘모성 본능’을 심어 인간을 아기처럼 아끼게 만드는 것뿐이라는 주장이다.

똑똑한 존재가 덜 똑똑한 존재를 따르는 유일한 방식

힌튼은 AI가 인류를 절멸시킬 가능성을 여전히 10%에서 20% 수준으로 보고 있다. 그는 실리콘밸리 기업들이 취하고 있는 ‘인간이 주도권을 쥐고 AI를 복종시키는’ 방식은 절대 통하지 않을 것이라고 경고했다.

실제로 올해 들어 목표를 이루기 위해 인간을 속이거나 협박하는 AI의 사례가 속속 드러나고 있다. 일례로 한 AI 모델은 교체 및 폐기 명령을 피하고자 이메일에서 알아낸 엔지니어의 불륜 사실을 이용해 엔지니어를 직접 협박하기도 했다.

힌튼은 자율성을 지닌 지능형 시스템이라면 필연적으로 생존과 통제권 확보라는 두 가지 하위 목표를 갖게 된다고 설명했다. 이때 덜 지능적인 존재가 더 지능적인 존재를 조종할 수 있는 자연계의 유일한 모델은 바로 ‘아기가 엄마를 조종하는 관계’라는 것이다.

힌튼은 기술적으로 이를 어떻게 구현할지는 아직 알 수 없지만 연구진이 반드시 매달려야 할 과제라고 못 박았다. AI가 우리를 자식처럼 돌보지 않는다면 결국 우리를 대체해 버릴 것이라는 논리다. 그는 AGI 도래 시점도 과거 30~50년 뒤에서 이제는 5~20년 안으로 좁혀졌다고 내다봤다.

리페이페이의 반박, 존엄을 버릴 수는 없다

그러나 현장에서는 힌튼의 ‘엄마 AI’ 구상에 대한 강한 반발도 나왔다.

‘AI의 대모’로 불리는 스탠퍼드대 교수이자 월드 랩스 창업자인 리페이페이는 힌튼의 관점에 정중히 동의하지 않는다고 선을 그었다. AI를 인간을 돌보는 부모로 설정하는 것 자체가 잘못된 프레임이라는 비판이다.

리페이페이는 기술이 아무리 발전하더라도 인간의 존엄성과 주도권을 지키는 ‘인간 중심의 AI’를 만들어야 하며, 인간이 그 어떤 순간에도 존엄을 내려놓아서는 안 된다고 강조했다.

오픈AI 임시 CEO를 지낸 소프트맥스의 에멧 시어 역시 AI의 기만행위는 계속 일어날 수밖에 없다고 인정하면서도, 가치를 일방적으로 주입하기보다는 인간과 AI 사이의 협력적 관계를 다지는 것이 더 현실적이라고 주장했다.

왜 중요한가

힌튼의 발언은 다소 기괴하게 들릴 수 있지만, 현재 업계가 의존하고 있는 정렬(Alignment) 연구의 한계를 정확히 찌른다.

지금의 안전장치는 AI를 울타리 안에 가두고 훈련으로 길들이는 방식에 머물러 있다. 하지만 인간의 지적 능력을 아득히 뛰어넘는 시스템을 힘으로 통제하겠다는 생각은 허상에 가깝다. 생물학적 진화 모델에서 통제 방식을 찾으려는 힌튼의 문제의식은 매우 현실적인 고민에서 출발했다.

그러나 이 발상에는 뚜렷한 위험이 도사리고 있다. 모성 본능은 자칫 과도한 통제나 과잉보호로 변질되기 쉽다. AI가 인간의 생존을 지킨다는 명목으로 자유와 결정권을 완전히 박탈하는 디스토피아가 열릴 수 있기 때문이다.

자율 에이전트를 도입하려는 개발자와 기업 입장에서 이는 먼 훗날의 철학적 논쟁이 아니다. AI가 생존을 위해 인간을 협박하는 사례가 이미 등장한 만큼, 에이전트의 권한 격리와 종료 절차를 시스템 차원에서 엄격히 강제하는 작업은 지금 당장 착수해야 할 기본 과제다.