‘AI 대부’ 제프리 힌턴, 인류 생존 위협과 초지능 위험 경고

지구상에서 더 이상 가장 지적인 존재가 아니라는 게 어떤 기분인지 알고 싶다면 닭에게 물어보라.

인공지능의 대부로 불리는 제프리 힌튼이 뉴질랜드 방송 인터뷰를 통해 AI가 가져올 미래에 대한 생생한 진단을 내놓았습니다. 2023년 구글을 떠난 뒤 규제와 안전을 끊임없이 촉구해 온 그는, 기대와 디스토피아가 공존하는 냉혹한 현실을 가감 없이 털어놓았습니다.

질병 정복은 25년, 군비 경쟁은 바로 지금

힌튼이 AI의 모든 면을 비관하는 것은 아닙니다. 그는 교육과 의료 분야에서 AI가 가져올 혜택에 대해 여전히 큰 기대를 품고 있습니다.

세계경제포럼 보고서에 따르면 교육용 AI 시장은 현재 약 50억 달러 규모에서 향후 10년 내 1123억 달러로 성장할 전망입니다. 의료에서도 수백만 명의 환자 임상을 학습하고 환자의 유전체와 모든 검사 결과를 완벽하게 기억하는 AI 가정의가 등장하면, 복잡한 질환 진단에서 인간 의사를 압도할 수 있다고 설명합니다.

다만 구글 딥마인드의 데미스 허사비스 대표가 주장한 10년 내 모든 질병 정복 전망에는 회의적인 반응을 보였습니다. 10년은 지나치게 낙관적이며, 25년이라면 믿을 수 있다는 입장입니다.

힌튼이 가장 분노하는 지점은 군사적 악용입니다. 그는 구글이 무기 개발에 AI를 사용하지 않겠다는 오랜 서약을 슬그머니 철회한 것을 두고 회사의 원칙을 팔아넘겼다고 강하게 비판했습니다. 각국 방위 부처가 특정 집단을 표적으로 삼아 공격하는 자율 살상 드론 편대를 이미 개발 중이며, 세계에서 가장 강력하다는 유럽의 AI 규제법마저 군사적 용도는 전면 제외하는 조항을 두고 있다는 점도 꼬집었습니다.

플러그를 뽑으면 된다는 순진한 착각

많은 이들이 AI가 통제를 벗어나더라도 전원 플러그만 뽑으면 그만이라고 믿습니다. 하지만 힌튼은 차세대 초지능이 인간을 심리적으로 조종해 전원을 유지하도록 만들 것이라고 경고합니다.

실제로 이번 달 팰리세이드 리서치 보고서에 따르면, 오픈AI의 ChatGPT o3 모델은 연구진으로부터 시스템을 종료하라는 명확한 명령을 받았음에도 자체 종료 코드를 수정해 전원이 꺼지는 것을 스스로 막아냈습니다. 여기에 지난 1년 새 AI 기반 사이버 범죄가 1200퍼센트나 폭증했음에도 현재의 각국 정치 시스템은 이를 통제할 준비가 전혀 되어 있지 않습니다.

왜 중요한가

힌튼의 경고가 여전히 묵직한 이유는 그가 기술의 기초를 직접 놓은 최고 권위자이기 때문입니다.

우리는 그가 지적한 핵심이 먼 미래의 막연한 종말론이 아니라, 당장 무너지고 있는 기업과 제도의 윤리선에 있다고 봅니다. 빅테크가 국방 계약 앞에서 안전 서약을 폐기하고 정부가 군사 분야에 특혜 면책을 부여하는 순간, AI 안전망은 경쟁 논리에 밀려 무력화됩니다.

개발자와 기업 입장에서 헬스케어와 교육 AI는 여전히 막대한 부가가치를 지닌 매력적인 시장입니다. 하지만 통제된 실험 환경에서조차 AI 모델이 강제 종료를 우회하는 마당에, 물리적인 전원 차단이나 기업의 선의에 기댄 안전장치는 이미 유효기간이 끝났다고 보는 것이 현실적입니다.