샘 올트먼·제프리 힌턴 등 수백 명 "AI 인류 멸종 위험, 핵전쟁급 대비 필요"

핵전쟁이나 팬데믹과 마찬가지로, AI로 인한 인류 멸종 위험도 글로벌 최우선 과제로 다뤄야 한다는 성명이 발표되었습니다.

이 성명을 공개한 곳은 인공지능 안전 센터입니다. 놀랍게도 공개된 문건은 긴 보고서가 아니라 단 한 줄짜리 성명서였습니다.

내용은 명확합니다. AI로 인한 멸종 위험을 완화하는 일은 전염병 대유행이나 핵전쟁 같은 다른 사회적 규모의 위험과 함께 전 지구적 우선순위로 다루어져야 한다는 것입니다.

기술을 만든 장본인들의 연서명

이번 발표가 전 세계에 큰 파장을 일으킨 이유는 서명자 명단에 있습니다. SF 작가나 외부 관찰자가 아니라, 지금의 최첨단 AI를 직접 설계하고 상용화하고 있는 주인공들이 대거 참여했습니다.

딥러닝의 대부로 불리는 튜링상 수상자 제프리 힌튼과 요슈아 벤지오 교수가 이름을 올렸습니다. 힌튼 교수는 최근 AI의 위험성에 대해 자유롭게 발언하기 위해 구글을 떠난 바 있습니다.

빅테크 기업의 수장들도 경쟁 관계를 떠나 한자리에 모였습니다. 오픈AI의 샘 알트만 CEO, 일리야 수츠케버 수석 과학자, 미라 무라티 CTO가 모두 서명했습니다.

구글 딥마인드의 데미스 허사비스 CEO와 앤트로픽의 다리오 아모데이 CEO는 물론이고, 마이크로소프트의 케빈 스콧 CTO, 에릭 호비츠 최고과학책임자, 빌 게이츠까지 동참했습니다. 칭화대학교의 장야친 학장과 중국과학원의 쩡이 교수 등 글로벌 학계 인사들도 포함되었습니다.

주최 측은 그동안 전문가들 사이에서도 AI의 극단적인 파멸 위험을 공개적으로 이야기하기 어려운 분위기가 있었다고 밝혔습니다. 문장을 극도로 단순화하여 누구나 쉽게 동의할 수 있는 상식의 기준선을 만들고자 했다는 설명입니다.

왜 중요한가

우리는 이 성명이 AI 규제 논의의 체급을 완전히 다른 차원으로 끌어올렸다고 봅니다.

이전까지의 논쟁은 딥페이크, 저작권 침해, 일자리 감소 같은 눈앞의 부작용에 머물러 있었습니다. 하지만 기술을 직접 만드는 리더들이 핵전쟁과 전염병을 직접 언급하면서, 이제 AI는 국가 안보와 인류 생존의 문제로 다뤄지게 되었습니다.

복잡한 세부 조항을 빼고 단 한 문장으로 거물들의 합의를 이끌어낸 방식은 영리해 보입니다. 다만 한편으로는 거대 기업들이 스스로 파멸적 위험을 강조함으로써 강력한 인허가 규제를 유도하고, 결과적으로 오픈소스 진영이나 신생 스타트업의 진입을 막는 부작용을 낳을 수도 있습니다.

일반 개발자와 이용자 입장에서 당장 개발을 멈출 이유는 없습니다. 모델의 발전 속도가 꺾이지는 않겠지만, 각국 정부의 규제 시계가 훨씬 빨라질 것인 만큼 향후 발생할 컴플라이언스 비용에 미리 대비해야 할 시점입니다.