'AI 대부' 제프리 힌튼 "AI 위협, 기후변화보다 더 시급하다"

현대 딥러닝의 기틀을 마련한 석학이 직접 위기를 경고하고 나섰습니다.

'AI의 대부'로 불리는 제프리 힌턴 박사가 인공지능이 인류에게 미치는 위협이 기후변화보다 '더 시급한' 위험일 수 있다고 경고했습니다.

올해 75세인 힌턴 박사는 소속 기업의 사업에 구애받지 않고 자유롭게 목소리를 내기 위해 지난달 구글의 시간제 자문직을 사임했습니다.

기후변화는 해법이라도 있지만, AI는 없다

힌턴 박사는 로이터와의 인터뷰에서 기후변화의 위험성을 깎아내리려는 것은 아니라고 전제하면서도, AI 문제가 결국 더 시급한 과제가 될 수 있다고 밝혔습니다.

그가 든 이유는 명확합니다. 기후변화의 경우 탄소 배출을 멈추면 결국 상황이 나아진다는 분명한 대처법이 있지만, AI는 인류가 무엇을 해야 할지조차 전혀 알지 못한다는 점입니다.

규제되지 않은 AI는 허위 정보의 범람과 일자리 시장의 대규모 충격을 부르고, 악의적인 행위자들에게 사회를 혼란에 빠뜨릴 새로운 무기를 쥐여줄 수 있습니다.

더 큰 공포는 시스템이 스스로 컴퓨터 코드를 작성하고 실행하는 능력을 갖추면서 인간의 통제를 벗어나는 시나리오입니다. 힌턴 박사는 자율형 AI 무기 체계를 그 끔찍한 가능성 중 하나로 꼽으며, 자신의 평생 연구를 일부 후회한다고까지 털어놓았습니다.

6개월 중단은 비현실적, 지금 당장 대책 찾아야

그렇다고 힌턴 박사가 일론 머스크 등이 주도한 '고급 AI 개발 6개월 일시 중단' 서한에 동의한 것은 아닙니다. 그는 개발 중단이라는 발상 자체가 '전혀 비현실적'이라고 일축했습니다.

기업 간 경쟁이 치열한 상황에서 개발을 멈추는 것은 불가능에 가깝다는 판단입니다.

그는 AI를 인류의 실존적 위협으로 규정하는 진영에 속해 있으며, 위기가 코앞에 닥친 만큼 지금 당장 엄청난 자원을 투입해 해결책을 찾아야 한다고 강조했습니다. 지난주 백악관도 순다르 피차이 구글 CEO와 샘 올트먼 오픈AI CEO 등을 불러 긴급 대책 회의를 진행한 바 있습니다.

왜 중요한가

우리는 힌턴 박사의 이번 인터뷰가 AI 안전성 논쟁의 흐름을 기술적 낙관론에서 실존적 거버넌스 문제로 끌어올린 중요한 계기라고 봅니다.

일반 사용자와 개발자 입장에서는 당장 도구를 쓰지 말아야 한다는 뜻은 아니지만, 스스로 코드를 실행하는 자율 에이전트 시스템을 맹신하고 통제권을 넘기는 것이 얼마나 위험한지 경각심을 가질 필요가 있습니다.

산업과 규제 측면에서는 각국 정부가 기후 위기에 버금가는 강력한 규제 프레임워크를 마련하도록 압박하는 기폭제가 될 것으로 보입니다.

힌턴 박사의 접근이 영리한 이유는 실효성 없는 '개발 일시 중단'이라는 정치적 수사에 매몰되지 않고, 현실적인 위험 대비와 안전 연구 투자를 촉구했다는 점입니다. 반면 가장 뼈아픈 현실은 모델 성능을 높이는 데는 천문학적인 자본이 쏟아지는 반면, 통제 방안 연구는 여전히 걸음마 단계라는 사실입니다.

앞으로의 AI 시장은 단순히 더 똑똑한 모델을 내놓는 기업보다, 통제 불능의 사고를 막을 수 있는 안전장치를 선제적으로 입증하는 쪽이 주도권을 잡게 될 것으로 보입니다.