샘 올트먼 "AI의 진짜 위험은 킬러 로봇 아닌 '미묘한 사회적 어긋남'"

인공지능의 위험을 떠올릴 때 대중은 흔히 SF 영화 속 장면을 상상합니다. 중무장한 킬러 로봇이 거리를 활보하거나 자의식을 가진 시스템이 인류를 위협하는 종말론적 시나리오입니다.

하지만 생성형 AI 열풍의 한가운데 서 있는 오픈AI의 샘 올트먼 CEO가 밤잠을 설치며 두려워하는 것은 그런 영화 같은 일이 아닙니다.

두바이에서 열린 세계정부정상회의(World Governments Summit)에 화상으로 참석한 올트먼은 아랍에미리트(UAE) 인공지능 특임장관 오마르 알 올라마와의 대담에서 거리를 걷는 살인 로봇 같은 시나리오에는 별다른 관심이 없다고 잘라 말했습니다.

악의 없는 시스템이 빚어내는 파국

올트먼이 진짜 위험으로 지목한 것은 바로 '매우 미묘한 사회적 어긋남'(very subtle societal misalignments)입니다.

시스템 자체에 악의가 없고 개발자나 사용자 역시 나쁜 의도를 품지 않았더라도, AI가 사회 전반에 배포되어 작동하는 과정에서 생기는 미세한 편차들이 얽히며 상상치 못한 거대한 혼란을 초래할 수 있다는 이야기입니다.

그는 AI 기술의 발전 속도가 전 세계의 예상보다 훨씬 빠를 가능성이 높은 만큼, 국제원자력기구(IAEA)와 유사한 감독 기구를 만들어 통제해야 한다는 주장을 거듭 펼쳤습니다.

다만 오픈AI 같은 개별 기업이 규제의 주도권을 쥐고 운전석에 앉아서는 안 된다고 선을 그었습니다. 지금 전 세계가 콘퍼런스를 열고 정책 보고서를 내며 논쟁하는 것은 건강한 과정이지만, 향후 몇 년 안에는 국제적인 합의를 바탕으로 한 실질적인 실행 계획으로 넘어가야 한다고 강조했습니다.

현재의 기술 수준에 대해 올트먼은 과거 '흑백 화면 휴대폰'에 불과하다고 비유했습니다. 학생들이 과제 작성에 AI를 쓸까 봐 걱정하던 교육계가 이제는 미래 필수 기술로 수용하는 모습에 고무되었다면서도, 몇 년만 지나면 지금보다 훨씬 나아질 것이고 10년 뒤에는 정말 놀라운 수준에 이를 것이라고 내다봤습니다.

화려한 대담 뒤편의 현실적 갈등

무대 위의 대화는 부드러웠지만, 이번 정상회의가 열린 배경에는 복잡한 지정학적 긴장이 자리 잡고 있었습니다.

개최국인 UAE는 언론 통제가 엄격한 체제로, ChatGPT 같은 머신러닝 시스템이 신뢰할 수 있는 답변을 내놓는 데 필요한 정확한 정보의 흐름이 제한적입니다. 국가안보보좌관이 이끄는 아부다비의 핵심 AI 기업 G42는 선도적인 아랍어 모델을 보유하고 있지만, 스파이웨어 연루 의혹과 중국 정부를 위해 미국인의 유전 정보를 수집했다는 의혹을 받아 미국 측의 우려로 중국 공급망을 끊겠다고 밝히기도 했습니다. 하지만 이번 대담에서 이런 민감한 지역 현안은 전혀 다뤄지지 않았습니다.

오픈AI 역시 자국에서 복잡한 줄타기를 이어가고 있습니다. 마이크로소프트로부터 수십억 달러의 투자를 받고 AP통신과 뉴스 아카이브 라이선스 계약을 맺는 한편, 뉴욕타임스로부터 무단 기사 학습을 이유로 저작권 소송을 당한 상태입니다.

왜 중요한가

올트먼이 킬러 로봇이라는 자극적인 공포 대신 '미묘한 사회적 어긋남'을 화두로 던진 것은 현실적인 위험 관리 차원에서 의미가 큽니다.

일반 이용자와 기업 입장에서도 공상과학 수준의 파멸을 걱정하기보다는, 일상 업무에 파고든 AI의 미세한 환각이나 편향이 누적되어 시스템 전반을 왜곡하는 위험에 주목해야 합니다. 흑백 휴대폰 수준이라는 지금의 초기 모델조차 교육과 업무 방식을 뒤흔들고 있는데, 앞으로 성능이 비약적으로 향상될 10년 동안 발생할 사회적 파장은 훨씬 깊고 광범위할 수밖에 없습니다.

아울러 '기업이 규제를 주도해서는 안 된다'며 IAEA급 기구를 거듭 요구한 올트먼의 태도는 책임감 있는 행보처럼 보이면서도, 규제에 따른 법적·사회적 부담을 각국 정부에 넘기려는 계산된 전략으로 풀이됩니다.

문제는 기술의 진화 속도에 비해 국제기구와 규제 당국의 발걸음이 너무 느리다는 점입니다. 세계 각국이 논쟁과 회의에 머물러 있는 사이 기술이 흑백폰에서 스마트폰으로 단숨에 도약한다면, 그 미묘한 사회적 균열은 규제책이 마련되기도 전에 이미 되돌릴 수 없는 현실이 되어 있을 가능성이 높습니다.