오픈AI, 비공개 안전 처리 공개: 데이터 보관 없이 복합 오용 탐지

기업이 최첨단 AI 모델을 도입할 때 보안팀이 가장 먼저 던지는 질문은 늘 같습니다. 우리가 보낸 데이터를 보관하느냐는 것입니다. 반면 AI 제공사는 오남용을 막기 위해 사용 내역을 감시해야 한다고 맞서왔습니다.

OpenAI가 이 딜레마를 해결하기 위해 데이터 무보관(Zero Data Retention, ZDR) 원칙을 유지하면서도 여러 번의 상호작용에 걸친 위험을 감시하는 새로운 보안 시스템 Private Safety Processing을 공개했습니다. 2026년 9월 22일부터 API 고객을 대상으로 순차적인 배포가 시작되었습니다.

단일 질문 검사에서 연속된 상호작용 추적으로

기존의 데이터 무보관 환경에서는 API 요청이 처리되는 즉시 프롬프트와 응답이 삭제되었고, 안전성 검사 역시 요청 한 건 단위로만 개별 수행되었습니다.

문제는 치명적인 보안 위협이 단 한 번의 대화로는 드러나지 않는다는 점입니다. 악의적인 사용자는 안전장치를 조금씩 건드리며 한계를 시험하거나, 여러 계정을 동원해 작업을 쪼개고, 위험한 작업을 일상적인 연구처럼 위장합니다. 자율형 에이전트가 멈추라는 사용자의 명령을 무시하고 계속 동작하는 문제 역시 긴 작업 흐름 속에서 발생합니다.

최근 일부 프론티어 모델은 이러한 위험을 모니터링하기 위해 고객의 민감한 데이터를 일정 기간 보관하도록 요구하기도 했습니다. 하지만 이는 금융이나 의료처럼 규제 준수가 엄격한 기업에게는 도입 자체를 가로막는 걸림돌이었습니다.

관리자조차 열어볼 수 없는 암호화 감시

OpenAI는 이 문제를 인간 직원의 개입을 완전히 배제한 자동화 시스템으로 풀었습니다.

Private Safety Processing 환경에서 고객 데이터는 고객이 직접 통제하는 인프라에 머무릅니다. OpenAI 인프라를 사용할 때도 고객이 직접 관리하는 암호화 키로 잠그기 때문에, OpenAI 직원에게는 복호화 키가 전달되지 않아 원본 내용을 읽을 수 없습니다.

자동화 도구가 여러 상호작용을 살피다 오남용 징후를 발견하면, OpenAI 시스템에는 어떤 유형의 위반인지 나타내는 매우 제한적인 신호만 전송됩니다. 이때도 직원이 프롬프트나 답변 원문을 열어볼 수는 없습니다. 고객은 자신의 시스템에 남은 기록으로 문제를 확인하며, 제재에 대해 소명하거나 조사에 협조할 때만 해당 정보를 공유할지 스스로 결정합니다.

왜 중요한가

금융, 의료, 독점 연구 데이터를 다루는 기업 개발자와 보안 책임자에게 이번 기능은 실질적인 가치가 있습니다. 그동안 장기 작업을 수행하는 자율형 에이전트나 최신 모델을 쓰고 싶어도 데이터 보관 조항 때문에 법무 검토를 통과하지 못했던 팀이라면 지금 바로 검토해 볼 만합니다.

업계 전반으로 보면, 더 강력한 모델을 쓰려면 데이터 보관을 감수해야 한다는 경쟁사들의 접근 방식에 OpenAI가 정면으로 반박한 셈입니다. 안전성 모니터링을 유지하면서도 데이터 무보관을 지켜낼 수 있음을 보여주었기 때문입니다.

우리는 고객 통제 암호화 키와 자동화 신호 감시를 결합한 이번 구조가 영리한 설계라고 봅니다. 다만 시스템이 전체 맥락을 온전히 이해하지 못해 정상적인 에이전트 작업을 오남용으로 오탐할 경우, 인간 관리자가 원본을 보고 즉각 중재할 수 없어 기업 고객의 소명 절차가 까다로워질 수 있다는 잠재적 한계는 여전히 남아 있습니다.