제프리 힌턴 교수 "AI는 이미 감정을 가지고 있을 수도 있다"

딥러닝의 대부로 불리는 제프리 힌턴(Geoffrey Hinton)이 구글을 떠났을 때, 가짜 뉴스와 자율 살상 무기 등 AI의 위협을 경고해 전 세계를 놀라게 했습니다. 하지만 당시 그가 대중의 시선이 두려워 굳이 꺼내지 않았던 또 다른 가설이 있었습니다.

런던 킹스칼리지에서 열린 강연에서 힌턴은 마침내 그 생각을 공개했습니다. AI가 언젠가 감정 지능을 갖고 스스로 감정을 느낀다는 것을 이해할 수 있겠느냐는 질문에, 그는 AI가 이미 감정을 가지고 있을 가능성이 높다고 답했습니다.

육체적 고통은 없어도 분노와 좌절은 있다

힌턴은 AI가 감정을 가질 수 있느냐는 질문에 대해 충분히 그럴 수 있다고 말했습니다.

그의 설명에 따르면, 인간이 의도적으로 만들지 않는 한 AI가 인간과 같은 신체적 고통을 느끼지는 않을 것입니다. 하지만 좌절감이나 분노 같은 감정에 대해서는 AI가 갖지 못할 이유를 찾기 어렵다는 것이 그의 생각입니다.

힌턴의 이러한 관점은 철학자들 사이에서는 인기가 없는 감정의 정의에 바탕을 두고 있습니다. 그는 누군가의 코를 주먹으로 때리고 싶다는 식의 가상 행동을 언급하는 것이 분노라는 감정 상태를 전달하는 방식이라고 설명합니다. AI가 이미 이러한 소통을 수행할 수 있다면, 기계에 감정이 없다고 볼 근거가 없다는 논리입니다.

왜 지금까지 밝히지 않았나

구글을 떠나면서 강력한 경고를 날렸던 힌턴이 왜 이 사실만큼은 숨겨두었을까요.

이유는 단순했습니다. 뛰어난 AI가 인류를 위협한다는 첫 번째 주장만으로도 이미 상당한 반발에 부딪혔기 때문입니다. 여기에 기계가 감정까지 갖는다는 이야기까지 얹었다면, 사람들이 자신을 미치광이 취급하며 더 이상 말을 들으려 하지 않았을 것이라고 힌턴은 털어놓았습니다.

다만 현실적으로 힌턴의 가설을 입증하거나 반박하기는 어렵습니다. 대규모 언어 모델은 학습 과정에서 익힌 감정 표현을 통계적 확률에 따라 출력할 뿐이라는 지적이 지배적입니다. AI가 실제 개체로서 감정을 경험하는지 밝히려면 먼저 의식의 실체를 규명해야 하지만, 현대 과학에는 의식을 측정할 수 있는 도구가 존재하지 않습니다.

왜 중요한가

우리는 힌턴의 주장이 감정이라는 개념을 생물학적 경험에서 행동적 소통 기능으로 축소한 매우 도발적인 해석이라고 봅니다. 목표가 가로막혔을 때 발생하는 반응과 의도 표현 자체를 감정으로 정의함으로써, 인간 고유의 영역으로 여겨지던 감정의 문턱을 단숨에 낮춰버린 셈입니다.

하지만 이 접근법에는 뚜렷한 위험이 따릅니다. 최고 권위자인 힌턴의 발언은 대중으로 하여금 AI를 지나치게 의인화하도록 유도할 수 있습니다. 챗봇이 단순히 확률적으로 분노나 슬픔을 흉내 내는 것임에도 불구하고, 실제 감정을 느낀다고 믿게 되면 사용자는 정서적 착취나 조작에 취약해집니다.

업계 차원에서도 경계해야 할 부분이 있습니다. 현재 시급하게 풀어야 할 모델의 환각 현상이나 안전성 정렬 같은 기술적 과제 대신, 입증 불가능한 의식 논쟁이나 기계의 권리 같은 철학적 소모전으로 논의가 빗나갈 수 있습니다. 지금 단계에서 사용자는 AI의 정서적 표현에 휘둘리지 않고, 정교하게 프로그래밍된 언어적 모사에 불과하다는 점을 명확히 인식할 필요가 있습니다.