샘 알트먼, 인기 팟캐스트서 AI 질주와 인류의 미래에 대해 털어놓다

심야에 고민이 생겼을 때 ChatGPT를 무료 심리상담사처럼 활용하는 사용자가 늘고 있습니다. 하지만 오픈AI 최고경영자가 직접 이러한 행동에 경종을 울렸습니다.

샘 알트만 오픈AI CEO는 코미디언 테오 본이 진행하는 인기 팟캐스트 프로그램에 출연해, 현행 법체계상 사용자가 ChatGPT와 나눈 대화에는 법적 비밀유지특권이 전혀 존재하지 않는다고 경고했습니다.

의사나 변호사와의 상담은 법적으로 보호받지만, AI에게 털어놓은 민감한 고민은 소송 과정에서 증거로 제출될 위험이 있습니다.

상담사처럼 썼다가 법정에 제출될 수도 있는 AI 대화

샌프란시스코 오픈AI 본사에서 약 한 시간 반 동안 진행된 이번 대담에서, 진행자 테오 본은 개인정보 유출에 대한 두려움 때문에 AI 사용이 망설여진다는 고민을 털어놓았습니다.

알트만은 이 같은 불안에 깊이 공감했습니다. 그는 특히 젊은 층을 중심으로 많은 사용자가 ChatGPT를 심리상담사나 인생 코치로 활용하며 지극히 사적인 인간관계 문제까지 털어놓고 있다고 지적했습니다.

문제는 법적 보호 장치입니다. 인간 의사나 변호사에게는 비밀유지특권이 적용되지만, AI와의 대화에는 이러한 권리가 없습니다. 알트만은 이를 두고 매우 엉망인 상황이라며, 소송이 발생할 경우 오픈AI는 법적으로 대화 기록을 제출해야만 한다고 설명했습니다.

실제로 오픈AI는 현재 뉴욕타임스와의 저작권 소송 과정에서 수억 명에 달하는 일반 사용자의 대화 기록을 보존하라는 법원 명령에 맞서 항소를 진행 중입니다.

멈출 수 없는 군비경쟁과 인간의 존재 가치

테오 본은 일자리 소멸과 인간의 삶의 목적에 대한 불안을 언급하며, AI 개발 속도를 늦출 수는 없는지 물었습니다.

알트만은 이에 대해 업계의 치열한 경쟁을 언급하며 속도를 늦추기 어렵다는 현실을 밝혔습니다. 오픈AI가 개발을 멈추더라도 누군가는 개발을 계속할 것이며, 사회적 책임을 덜 고려하는 이들의 손에 주도권이 넘어갈 수 있다는 논리입니다.

단기적으로 일자리를 잃는 사람들에게는 매우 불안하고 고통스러운 전환기가 될 것임을 인정하면서도, 알트만은 인류가 역사적으로 그래왔듯 스스로를 이야기의 주인공으로 재정의하며 새로운 가치를 찾아낼 것이라는 기대를 덧붙였습니다.

왜 중요한가

ChatGPT에 개인적인 치부나 정신적 고민을 털어놓던 사용자라면 사용 방식을 즉시 재점검해야 합니다. 법적 보호를 받지 못하는 환경에서 AI와의 대화는 언제든 법적 분쟁이나 수사 과정에서 공개될 수 있는 데이터에 불과하기 때문입니다.

AI 산업 전체로 봐도 프라이버시 법률 공백은 대중적 확산을 가로막는 중대한 걸림돌입니다. 오픈AI는 법원에 대화 데이터 보존 요구가 부당하다고 맞서고 있지만, 현행법 체계가 개정되지 않는 한 기업이 사용자의 비밀을 온전히 지켜주기는 어렵습니다.

알트만이 AI 대화에도 상담사와 동등한 법적 비밀유지 권리가 주어져야 한다고 주장한 것은 방향성 자체는 맞지만, 단기간에 실현되기는 어려워 보입니다. 법이 기술을 따라잡기 전까지는 사용자가 스스로 입력하는 정보의 수위를 통제하는 것 외에는 뚜렷한 해결책이 없습니다.