OpenAI, ChatGPT에 프롬프트 인젝션 방어용 '잠금 모드' 도입

AI가 웹을 실시간으로 검색하고 복잡한 작업을 척척 수행하게 되면서, 보안 위험도 함께 커졌습니다. 웹페이지에 악성 명령어를 숨겨둬 챗봇을 속인 뒤 이용자의 민감한 정보를 빼돌리는 프롬프트 인젝션(prompt injection) 공격이 대표적입니다.

OpenAI는 이에 대응하기 위해 ChatGPT에 신규 보안 옵션인 락다운 모드(Lockdown Mode)를 도입하기 시작했습니다. 일반 이용자보다는 민감 데이터를 다루는 전문가와 기업 고객을 위한 일종의 최후의 방어선입니다.

네트워크 통로를 막아 데이터 유출 차단

락다운 모드는 프롬프트 인젝션 자체를 완벽히 막아주는 기술은 아닙니다. 캐시된 웹페이지나 이용자가 올린 문서 안에도 여전히 악성 명령이 숨어 있을 수 있습니다. 대신 OpenAI는 공격자가 데이터를 외부로 유출할 때 쓰는 통로를 원천 차단하는 방식을 택했습니다.

기능을 켜면 실시간 웹 브라우징이 제한되어 캐시된 콘텐츠만 조회할 수 있습니다. 웹에서 이미지를 가져와 답변에 표시하는 기능과 외부 파일을 직접 내려받아 분석하는 작업도 막힙니다. 특히 심층 조사를 돕는 딥 리서치(Deep Research)와 자율 작업을 수행하는 에이전트 모드(Agent Mode)는 아예 비활성화됩니다.

다만 이미지 자체를 생성하거나 로컬 PC에서 문서를 직접 올려 분석을 맡기는 작업은 여전히 가능합니다. 또한 락다운 모드를 켜더라도 메모리 기능, 파일 업로드 규칙, 대화 공유 여부, 모델 학습 데이터 활용 설정 등은 기존 상태 그대로 유지됩니다.

현재 이 기능은 무료 버전을 포함한 개인 계정과 셀프서비스 방식의 ChatGPT 비즈니스 계정을 대상으로 순차 배포되고 있습니다. 설정 메뉴의 안전 및 보안 탭에서 켤 수 있으며, 특정 대화창 상단에서 일시적으로 기능을 끌 수도 있습니다. 계정에 접속된 기기와 브라우저를 확인하고 원격 로그아웃할 수 있는 활성 세션 관리자도 함께 도입됐습니다.

왜 중요한가

우리는 OpenAI가 락다운 모드를 내놓은 것을 두고, 현재 대형언어모델 구조상 프롬프트 인젝션을 소프트웨어 알고리즘만으로 완벽히 차단하기 어렵다는 점을 솔직하게 인정한 조치로 보고 있습니다.

애플이 iOS에서 선보였던 락다운 모드처럼, 극단적인 보안이 필요한 상황에서는 강력한 기능을 포기하더라도 안전을 택하겠다는 계산입니다. 일반 이용자 입장에서는 ChatGPT의 가장 큰 장점인 에이전트와 웹 검색 기능이 꺼지기 때문에 평소에 켜둘 이유가 전혀 없습니다.

하지만 기밀 계약서나 내부 금융 데이터를 다루는 기업 실무자에게는 지금 당장 도입해 볼 만한 기능입니다. AI가 인터넷을 돌아다니며 데이터를 긁어올 필요 없이, 밀폐된 환경에서 내부 자료만 요약하고 분석해야 하는 작업 환경에 정확히 들어맞기 때문입니다.

최근 AI 업계는 모델에게 웹 탐색과 도구 사용 권한을 더 많이 쥐여주는 자율 에이전트 경쟁에 몰두해 왔습니다. OpenAI의 이번 조치는 권한이 커질수록 유출 경로도 넓어진다는 경고를 던집니다. 향후 엔터프라이즈 AI 시장에서는 기능을 얼마나 넓게 열어주느냐 못지않게, 필요할 때 얼마나 확실하게 빗장을 걸어 잠글 수 있느냐가 핵심 경쟁력이 될 것으로 보입니다.