OpenAI, '딥 리서치' 시스템 카드 공개: o3 기반 모델 위험도 중간 평가

AI에게 웹을 자유롭게 탐색하고, 복잡한 문서를 읽으며, 파이썬 코드를 실행할 권한을 주는 것은 연구자에게는 축복이지만 보안 팀에게는 새로운 도전입니다.

OpenAI가 Pro 사용자를 대상으로 공개한 심층 리서치 기능의 안전성 평가 결과를 담은 시스템 카드를 공개했습니다.

웹 탐색에 최적화된 초기 o3 탑재

이번 시스템 카드를 통해 밝혀진 핵심 사실 중 하나는 Deep Research의 기반 모델입니다. 단순한 GPT-4o 변형이 아니라, 웹 브라우징 작업에 맞춰 최적화된 초기 버전의 OpenAI o3가 두뇌 역할을 맡고 있습니다.

이 기능은 복잡한 과제를 해결하기 위해 인터넷에서 여러 단계의 조사를 자율적으로 수행합니다. 방대한 양의 텍스트, 이미지, PDF 문서를 분석하며, 검색 도중 새로운 정보를 발견하면 스스로 조사 방향을 유연하게 전환합니다.

사용자가 제공한 문서를 읽고, 필요한 경우 직접 파이썬 코드를 작성하고 실행해 정밀한 데이터 분석까지 처리합니다.

위험 평가 전 영역에서 중간 등급 기록

AI가 열린 인터넷을 직접 돌아다니는 만큼 새로운 보안 위협도 따릅니다. OpenAI의 안전 대비 프레임워크 평가에서 화학·생물·방사능·핵, 사이버 보안, 설득력, 모델 자율성 등 네 가지 핵심 영역 모두 중간 등급을 받았습니다.

가장 큰 골칫거리는 간접 프롬프트 주입 공격입니다. 웹페이지 내에 숨겨진 악의적인 명령어를 AI가 검색 중에 읽고 원래 목표에서 벗어나거나 오작동을 일으킬 위험이 상존하기 때문입니다.

OpenAI는 외부 레드팀 테스트와 인간 기반 탐침, 자동화 검증을 추가로 거쳤다고 밝혔습니다. 웹상에 노출된 개인정보 보호 조치를 강화하고, 인터넷 검색 중 마주칠 수 있는 악의적 프롬프트에 저항하도록 모델을 집중 훈련했습니다.

왜 중요한가

보고서 작성이나 시장 조사에 많은 시간을 쏟아야 하는 실무자에게 스스로 경로를 수정하며 코드로 데이터를 검증하는 리서치 에이전트는 작업 시간을 획기적으로 줄여줄 수 있습니다. 현재로서는 Pro 구독자 중심이지만 전문 조사 용도로는 충분히 가치를 증명하고 있습니다.

업계 관점에서는 검색 기반 AI가 단순 요약을 넘어 고도화된 추론 모델과 결합된 자율 에이전트 단계로 진화했음을 보여줍니다. 이제 경쟁의 초점은 단순히 링크를 긁어오는 속도가 아니라, 오염된 웹 데이터 속에서 논리적으로 길을 찾는 능력으로 옮겨가고 있습니다.

우리는 OpenAI가 주요 위험 항목을 모두 중간 등급으로 분류한 점에 주목합니다. 코드를 직접 돌리고 외부 웹을 실시간으로 읽는 에이전트 특성상, 아무리 정렬 훈련을 거쳤더라도 악의적인 웹페이지 공격을 완벽히 차단하기는 쉽지 않습니다. 에이전트의 자율성과 보안 통제 사이의 줄타기는 앞으로 모든 AI 기업이 풀어야 할 숙제입니다.