샘 알트만, 오픈AI 사태와 AGI 언급: 사내 정치보다 초지능 통제가 더 큰 고민

이사회로부터 전격 해임됐다가 극적으로 복귀한 오픈AI의 샘 알트먼 CEO가 타임(TIME)지의 '2023 올해의 CEO'로 선정되며 솔직한 심경을 밝혔습니다.

알트먼은 11월 중순에 벌어진 퇴출 사태가 개인적으로 극도로 고통스러웠지만, 이를 계기로 오픈AI 내부가 그 어느 때보다 단단하게 뭉치게 됐다고 말했습니다.

초지능이 다가올수록 커지는 불안과 스트레스

그는 이사회와의 충돌이 단순한 밥그릇 싸움이 아니었다고 설명합니다. 범용인공지능(AGI)과 초지능에 가까워질수록 이 기술을 다루는 모든 사람들의 불안과 스트레스가 극에 달한다는 것입니다.

특히 알트먼은 기존 오픈AI의 지배구조가 실패했음을 거침없이 인정했습니다. 소수의 손에 AGI가 쥐어지지 않도록 민주화하겠다고 항상 말해왔지만, 이번 사태를 통해 그 설계가 명백히 틀렸음을 깨달았다는 고백입니다.

만약 오픈AI가 지배구조를 개선하고 세상과 소통하는 방식을 바꾸지 않는다면, 대중이 회사를 신뢰하지 않는 것이 당연하다고도 덧붙였습니다.

단순한 밈을 넘어선 개인 맞춤형 여론 조작의 위협

알트먼은 AGI가 인류 역사상 가장 강력한 기술이 될 것이라는 믿음을 유지하고 있습니다. 지능의 비용이 급격히 낮아져 정보 접근의 평등이 실현될 것이라는 전망입니다.

하지만 당장 눈앞으로 다가온 2024년 선거를 앞두고 심각한 위험을 경고했습니다. 지금까지의 허위 정보가 트롤 팜이 만든 밈을 퍼뜨리는 단순한 방식이었다면, AI 시대의 위협은 차원이 다릅니다.

그가 가장 우려하는 시나리오는 개별 유저가 온라인에 남긴 모든 글을 학습한 AI가, 가장 취약한 순간에 딱 맞는 맞춤형 메시지를 보내 개인의 세계관 자체를 뒤흔드는 정밀 타격형 여론 조작입니다.

왜 중요한가

오픈AI의 기술을 활용해 비즈니스를 구축하고 있는 기업과 개발자들에게 이번 인터뷰는 뚜렷한 복합 신호를 줍니다. 알트먼의 복귀로 기술 개발과 상용화 속도는 늦춰지지 않겠지만, 그가 2024년 대선 위험을 공개적으로 못 박은 만큼 안전 가이드라인과 API 검열 수위는 이전보다 한층 깐깐해질 가능성이 큽니다.

인공지능 업계 전체로 보면 경쟁의 무게중심이 모델 성능뿐만 아니라 거버넌스 신뢰도로 옮겨가고 있습니다. 앤트로픽이나 구글 같은 경쟁자들은 오픈AI의 혼란을 반면교사 삼아 자신들의 안정적인 지배구조를 차별화 포인트로 내세울 것으로 보입니다.

우리가 보기에 알트먼이 지배구조의 실패를 쿨하게 인정한 것은 매우 영리한 위기관리 방식입니다. 사내 권력 다툼을 초지능 등장에 따른 인류사적 진통으로 포장해, 오픈AI를 여전히 기술 혁신의 최전선에 있는 순교자처럼 위치시켰기 때문입니다. 하지만 임시 이사회 구성만으로는 급진적 상업화와 안전 통제 사이의 근본적인 모순을 해결했다고 보기 어렵습니다. 지배구조의 실질적 개혁이 뒤따르지 않는다면 내부의 뇌관은 언제든 다시 터질 수 있습니다.