샘 올트먼 "미래 ChatGPT, 맞춤형 가치관 반영하며 '불편한' 방식으로 진화할 것"

정치적 성향이나 가치관이 정반대인 두 사람이 같은 AI에게 동일한 사회적 질문을 던진다면, AI는 누구의 손을 들어줘야 할까요?

다보스 세계경제포럼 현장에서 악시오스와 만난 샘 알트만 오픈AI CEO는 이 민감한 질문에 대해 미래의 AI는 광범위한 개인 맞춤화를 허용해야 하며, 이는 많은 사람들을 꽤 불편하게 만들 것이라고 답했습니다.

전 인류를 만족시킬 단 하나의 완벽한 정답 자판기를 만들겠다는 환상을 버리고, 사용자의 가치관에 따라 서로 전혀 다른 답변을 내놓는 방향으로 제품을 진화시키겠다는 뜻입니다.

가치관 맞춤화와 도덕적 한계선

알트만은 극단적인 선을 분명히 그었습니다. 예를 들어 특정 국가가 성소수자를 처형해야 한다고 요구한다면 이는 명백히 허용 한도를 벗어난 것이므로 절대 응하지 않겠다고 말했습니다.

하지만 명백한 범죄의 영역을 벗어난 수많은 문화적, 개인적 이견에 대해서는 태도가 다릅니다. 알트만 본인은 동의하지 않더라도 다른 문화권에서는 용인될 수 있는 영역이 존재하며, 도구를 만드는 사람은 도구가 사용되는 일부 방식에 대해 어느 정도의 불편함을 감수해야 한다고 설명했습니다.

그는 국가별 차이보다 개인별 가치관 차이가 훨씬 중요하다고 덧붙였습니다. 빌 게이츠와의 팟캐스트에서 밝힌 내용처럼, 향후 2년간 오픈AI가 집중할 핵심 과제 역시 논리적 추론 능력과 신뢰성, 그리고 개인 데이터를 활용한 맞춤형 경험입니다.

GPT-5 우선순위와 비용의 급락

현재 오픈AI의 최우선 순위는 GPT-5로 불릴 차세대 모델 출시입니다. 지능을 생산하는 비용 자체도 무어의 법칙을 훨씬 뛰어넘는 속도로 떨어지고 있습니다.

알트만에 따르면 GPT-3의 운영 비용은 기존 대비 40분의 1로, GPT-3.5는 10분의 1 수준으로 감소했습니다. 궁극적으로는 뛰어난 소형 모델을 통해 지능의 비용을 거의 0에 수렴하도록 만드는 것이 목표입니다.

약 500명에 불과한 소수 정예 조직이지만 활동 반경은 갈수록 넓어지고 있습니다. 2021년 여름 중단했던 로봇 연구에 다시 뛰어들 가능성을 내비쳤고, 미 정부 지원을 위해 군사적 이용 제한을 완화하기도 했습니다. 뉴욕타임스의 저작권 소송에 대해서도 해당 매체의 콘텐츠 없이도 강력한 모델을 만들 수 있다며 물러서지 않았습니다.

왜 중요한가

알트만의 이번 발언은 테크 기업이 짊어져 온 가장 무거운 짐인 가치관 중립 논란을 사용자에게 영리하게 넘겨버리는 전략으로 풀이됩니다.

지난 한 해 동안 오픈AI는 정치적 편향이 있다거나 지나치게 PC주의적이라는 비판을 양쪽 진영 모두에서 받아왔습니다. 모든 사람을 만족시키는 단 하나의 도덕적 기준을 세우는 것이 불가능하다면, 차라리 사용자가 직접 AI의 가치관을 조절하게 만드는 편이 기업 입장에서는 가장 안전한 탈출구입니다.

사용자와 기업 입장에서는 자신의 업무 스타일과 생각에 딱 맞춰진 비서를 얻게 되므로 당장의 생산성과 활용도는 크게 올라갈 것입니다. 매번 장황한 프롬프트로 말투와 관점을 교정할 필요가 없어집니다.

그러나 그림자도 짙습니다. 개인 맞춤형 AI는 필연적으로 극단적인 에코 체임버를 형성할 위험을 안고 있습니다. 편견을 강화해 주는 AI가 보편화되었을 때 발생할 사회적 갈등을 두고, 단순히 도구 제작자로서 불편함을 감수하겠다는 말 한마디로 규제 당국과 대중의 비판을 피해 갈 수 있을지는 의문입니다.