OpenAI, API 고객 데이터 모델 학습 활용 기본 중단

대규모 언어 모델을 사내 시스템이나 고객 서비스에 연동하려 할 때 가장 먼저 제동을 거는 곳은 보안과 법무 부서입니다. 입력한 기밀 데이터나 고객 정보가 상대방의 다음 세대 인공지능 학습에 고스란히 쓰일 수 있다는 불안 때문입니다.

OpenAI가 ChatGPT와 Whisper API를 정식 출시하면서 개발자 데이터 정책을 전면 수정했습니다.

API 데이터 기본 학습 배제와 소유권 명시

가장 중요한 변화는 API를 통해 제출된 데이터를 모델 훈련이나 서비스 개선 목적으로 기본 활용하지 않는다는 점입니다. 고객이나 기관이 명시적으로 동의하지 않는 한, 입력된 데이터는 모델 학습에 쓰이지 않습니다.

이와 함께 API 사용자의 데이터 보관 기간을 30일로 설정하고, 필요에 따라 더 엄격한 보관 옵션을 선택할 수 있도록 했습니다. 이용 약관도 단순화하여 모델에 입력한 데이터와 모델이 생성한 결과물의 소유권이 전적으로 사용자에게 있음을 분명히 했습니다.

OpenAI의 그렉 브록먼 회장은 TechCrunch와의 인터뷰에서 텍스트나 이미지를 불문하고 입출력 데이터의 소유권은 언제나 사용자에게 있었다고 말했습니다. 다만 생성형 AI를 둘러싼 법적 문제들이 불거지고 고객들의 피드백이 이어지면서 약관을 명문화하게 되었다고 설명했습니다. 그는 다른 기업들이 그 위에서 사업을 영위할 수 있는 플랫폼을 구축하는 것이 목표이며, 개발자 친화적인 환경을 만드는 데 집중하고 있다고 덧붙였습니다.

기존 정책에 대해 개발자들은 프라이버시 침해 위험과 함께 자신들의 데이터를 바탕으로 OpenAI가 이익을 챙긴다며 꾸준히 문제를 제기해 왔습니다. 심지어 OpenAI 공식 도움말에서도 대화 기록에서 특정 프롬프트만 따로 삭제할 수 없다는 이유로 민감한 정보를 입력하지 말라고 안내했을 정도였습니다.

사전 심사 없애고 자동화된 사후 모니터링 체제로

생태계를 대규모로 확장하기 위해 앱 출시 전 거쳐야 했던 까다로운 사전 검토 절차도 폐지되었습니다.

기존에는 개발자가 API 기반 앱을 출시하려면 신청서를 내고 대기열에서 콘셉트 승인을 받아야 했습니다. 이제는 이 절차가 완전히 사라지고 대부분 자동화된 시스템으로 대체됩니다.

OpenAI 대변인은 기존 심사 과정에서 대다수 앱이 문제없이 승인되었고, 지난 1년 동안 자체 모니터링 능력이 대폭 향상되었기 때문에 이러한 결정을 내렸다고 밝혔습니다. 사전에 양식을 제출받아 검토하던 방식에서, 트래픽을 관찰하며 문제가 감지되는 앱을 조사하는 사후 감지 시스템으로 전환한 것입니다.

이로써 OpenAI의 심사 인력 부담을 줄이는 동시에 훨씬 많은 수의 앱이 빠르게 시장에 나올 수 있는 길이 열렸습니다. 마이크로소프트로부터 수십억 달러의 투자를 유치한 OpenAI는 본격적인 수익 창출 압박을 받고 있습니다. 올해 예상 매출은 약 2억 달러 수준으로 알려졌는데, 이는 지금까지 투입된 10억 달러 이상의 자금에 비하면 아직 갈 길이 먼 수치입니다.

왜 중요한가

기업과 개발자 입장에서 이번 개정은 실제 상용 제품에 ChatGPT를 연동하기 위한 필수 조건이 갖춰졌음을 뜻합니다. 그동안 데이터 유출과 재학습에 대한 우려로 검토 단계에 머물러 있던 엔터프라이즈 도입 논의가 비로소 본격화될 수 있는 법적 안전장치가 마련되었습니다.

산업 전반으로 보면 OpenAI가 엔터프라이즈 소프트웨어 시장의 표준 눈높이에 맞추기 시작했다는 신호입니다. 시장 선두 주자가 API 데이터의 무단 학습 중단을 선언한 만큼, 경쟁 모델 제공사들도 고객 데이터를 자사 모델 학습의 원료로 삼던 관행을 버리고 프라이버시 보호 기준을 높일 수밖에 없습니다.

우리는 OpenAI가 연구 기관의 태도를 벗고 비즈니스 플랫폼으로서 현실적이고 영리한 결단을 내렸다고 평가합니다. 기업 고객의 지갑을 열려면 데이터 보호라는 기본 신뢰가 필수적이기 때문입니다. 다만 사전 심사를 없애 출시 속도를 극대화한 전략은 생태계 확장에 유리한 반면, 유해하거나 오남용 소지가 있는 앱이 배포된 이후에야 대처하게 되는 구조적 위험을 남겨두고 있습니다.