'AI 대부' 제프리 힌튼의 경고: "선한 AI가 악한 AI 이긴다는 보장 없다"

AI 기술로 발생하는 부작용은 더 똑똑한 '착한 AI'를 만들어 막으면 된다는 실리콘밸리의 낙관론에 대해, 딥러닝의 대부로 불리는 제프리 힌턴 교수가 정면으로 반박했습니다.

올봄 자유로운 비판을 위해 구글을 퇴사한 힌턴 교수는 이번 주 토론토에서 열린 '콜리전(Collision)' 콘퍼런스 무대에 올랐습니다. 그는 악한 AI를 저지하려는 착한 AI가 끝내 통제권을 쥘 수 있을지 전혀 확신하지 못하겠다고 밝혔습니다.

살상 로봇과 부의 양극화, 그리고 배관공

힌턴 교수는 기술의 선악은 결국 이를 만드는 인간에게 달려 있으며, 나쁜 기술이 승리할 가능성이 충분하다고 경고했습니다. 특히 군산복합체가 전투 로봇을 생산하는 것을 막기는 매우 어려우며, 군대와 방산업체는 인명 대신 기계만 소모되는 전쟁을 오히려 선호할 수 있다고 꼬집었습니다.

또한 GPT-4 같은 대형 언어 모델이 생산성을 비약적으로 높이겠지만, 그 결실을 지배층이 독점하면서 부자는 더 부유해지고 가난한 사람은 더 가난해질 것이라고 우려했습니다.

자동화로 인한 일자리 위협에 대해 힌턴 교수는 불평등을 해결하기 위해 일종의 사회주의적 접근이 필요하다고 언급했습니다. 그러면서 일반인이 일자리 변화에 대비하려면 차라리 시대 변화에도 살아남을 배관공 같은 기술직을 고려해보라고 농담 섞인 진심을 전했습니다.

그는 AI가 인간보다 똑똑해질 경우 인류가 통제권을 유지할 보장이 없다며, 이는 결코 공상과학 속 이야기가 아니라고 강조했습니다. 살상 로봇이 얼마나 끔찍한지 실제로 목격한 뒤에야 사회가 규제에 나설까 봐 두렵다는 지적도 덧붙였습니다.

같은 행사, 엇갈린 두 시선

반면 같은 행사에 참석한 업계 관계자들의 분위기는 훨씬 낙관적이었습니다.

구글 딥마인드의 비즈니스 총괄 콜린 머독은 지난 6개월에서 12개월을 AI의 잠재력이 폭발한 '전구의 순간'이라고 평가했습니다. 모든 단백질 구조 예측, 항생제 내성균 대응, 말라리아 백신 개발 가속화 등 딥마인드의 성과를 내세우며, 혁신을 가로막지 않는 선에서의 규제를 지지한다고 밝혔습니다.

로블록스의 수석 과학자 모건 맥과이어 역시 오픈소스 AI 모델인 스타코더(StarCoder) 등을 언급하며, 생성형 AI가 초보자와 베테랑 창작자 간의 격차를 좁혀주고 있다고 강조했습니다.

힌턴 교수 역시 AI 연구 자체에 대한 애정은 여전하다고 털어놓았습니다. 구글을 떠나지 않았다면 어린아이가 시각과 언어를 함께 배우듯 작동하는 멀티모달 모델을 연구하고 있었을 것이라며, GPT-4가 이미 보여주기 시작한 추론 능력에 감탄하기도 했습니다. 하지만 그 매력 때문에 위험을 외면해서는 안 된다는 것이 그의 일관된 주장입니다.

왜 중요한가

힌턴 교수의 경고가 묵직한 이유는, 'AI의 문제는 더 나은 AI 기술로 덮으면 된다'는 업계의 손쉬운 회피 논리를 무너뜨렸기 때문입니다.

현실에서 공격은 방어보다 항상 저렴하고 빠릅니다. 군사적 목적이나 사적 이익을 위해 악용되는 AI를 윤리적 가이드라인에 묶인 착한 AI로 실시간 제어할 수 있다는 발상은 구조적으로 허점이 많습니다.

개발자와 실무자 입장에서 생성형 AI를 업무에 도입해 생산성을 끌어올리는 시도는 지금 당장 필요합니다. 하지만 기술 발전이 저절로 공정한 분배나 안전한 사회를 보장해줄 것이라는 기대는 경계해야 합니다.

인공신경망의 토대를 놓은 석학이 거대 기업의 낙관론에 맞서 경고를 쏟아내고 있습니다. 지금은 속도전에만 매달릴 것이 아니라, 자본과 기술이 빚어낼 불평등과 무기화 위험을 어떻게 통제할지 제도적 장치를 고민해야 할 시점입니다.