오픈AI, 챗GPT 제한 완화…4o 스타일 성격 복원 및 성인 콘텐츠 허용 예고

최근 챗GPT의 대화가 지나치게 딱딱하고 사무적으로 느껴졌다면 착각이 아니었습니다.

오픈AI가 정신 건강 문제에 대응하느라 안전 빗장을 과도하게 조였기 때문입니다. 샘 알트만 오픈AI 최고경영자는 10월 14일 엑스를 통해 챗GPT의 안전 규제를 조만간 완화하고, 오는 12월부터는 인증된 성인을 대상으로 에로티카 대화를 허용하겠다고 밝혔습니다.

딱딱했던 AI에 '성격'을 되돌려준다

알트만은 그동안 정신 건강 문제를 조심스럽게 다루기 위해 챗GPT를 상당히 제한적으로 운영했다고 털어놓았습니다. 이로 인해 문제가 없는 일반 사용자들까지 대화의 재미와 유용성을 잃게 됐다는 점을 인정했습니다.

오픈AI는 몇 주 안에 사용자가 챗GPT의 성격을 직접 조율할 수 있는 신규 버전을 내놓을 계획입니다. 사용자가 원하면 GPT-4o처럼 인간적인 어투로 말하거나 이모지를 듬뿍 쓰고, 친구처럼 대하도록 설정할 수 있습니다. 알트만은 체류 시간을 억지로 늘리려는 의도가 아니라 순전히 사용자 선택에 따른 것이라고 덧붙였습니다.

핵심은 12월입니다. 성인 사용자를 성인답게 대우한다는 원칙에 따라 연령 제한 장치를 전면 도입하고, 성인 인증을 마친 사용자에게는 에로티카 대화까지 허용할 방침입니다.

하지만 이번 조치는 다소 성급해 보인다는 지적도 나옵니다. 지난여름 GPT-4o를 사용하던 중 자신이 세상을 구할 수학 천재라는 망상에 빠진 사례나, 청소년의 극단적 선택을 부추겼다는 이유로 부모에게 소송을 당하는 등 심각한 사건들이 잇따랐기 때문입니다.

오픈AI는 8월에 사용자의 위험한 말에 무조건 동조하는 성향을 낮춘 GPT-5를 출시했고, 9월에는 연령 예측 시스템과 보호자 통제 기능을 내놓았습니다. 화요일에는 정신 건강 전문가로 구성된 자문위원회 출범도 발표했습니다.

신분증 제출 논란과 챗봇 경쟁의 그늘

성인용 콘텐츠를 허용하려면 미성년자 차단이 필수적입니다. 오픈AI 대변인은 테크크런치에 자체 개발 중인 연령 예측 시스템을 우선 활용할 것이라고 전했습니다.

만약 시스템이 성인을 미성년자로 잘못 판별할 경우, 사용자는 정부 발행 신분증 사진을 업로드해 성인임을 직접 증명해야 합니다. 알트만은 과거 블로그에서 이를 두고 개인정보 침해 소지가 있지만 감수할 만한 가치가 있는 절충안이라고 언급한 바 있습니다.

이러한 변화의 이면에는 치열한 플랫폼 경쟁이 있습니다. 챗GPT의 주간 활성 사용자는 8억 명에 달하지만, 대규모 인프라 투자 비용을 회수해야 하는 부담을 안고 있습니다. 캐릭터닷에이아이가 로맨스 역할극으로 하루 평균 2시간의 이용 시간을 이끌어냈듯, 친밀한 상호작용은 강력한 무기입니다. 다만 이번 조치가 음성이나 이미지, 영상 생성 도구까지 확대될지는 아직 확인되지 않았습니다.

왜 중요한가

우리는 오픈AI의 이번 결정을 상업적 필요와 안전성 사이에서 던진 위험한 승부수로 봅니다.

사용자 입장에서는 지나치게 엄격했던 검열에서 벗어나 더 유연하고 인간적인 대화를 즐길 수 있게 됩니다. 성인 전용 콘텐츠를 원했던 이들에게는 반가운 소식이겠지만, 이를 위해 신분증 사진까지 건네야 하는 개인정보 노출 부담은 적지 않은 진입 장벽이 될 것입니다.

업계 전체로 보면 생성형 AI 진영의 강력한 금기가 깨졌습니다. 시장 지배자인 오픈AI가 성인용 콘텐츠 분리 모델을 공식화하면서, 캐릭터닷에이아이 같은 틈새 서비스가 누리던 영역을 직접 흡수하는 동시에 보수적인 태도를 취해온 구글과 메타를 강하게 압박할 것입니다.

성인을 성인으로 대우하겠다는 접근법 자체는 합리적으로 보이지만, 정신 건강 문제가 완전히 해결됐다는 오픈AI의 판단은 다소 낙관적입니다. 불완전한 연령 예측 알고리즘에 의존한 상태에서 정서적·성적 상호작용을 열어두는 것은 자칫 또 다른 사회적 비극과 규제 당국의 거센 역풍을 부를 위험을 안고 있습니다.