OpenAI, '레드팀 네트워크' 발족… 외부 전문가와 AI 안전성 상시 검증

새로운 대규모 AI 모델을 배포하기 전에 외부 전문가를 동원해 시스템의 허점과 유해성을 파고드는 과정을 레드팀(Red Teaming) 테스트라고 부릅니다. 이전까지 OpenAI는 주요 출시 직전에 외부 전문가를 일회성으로 모아 점검하는 방식을 취해 왔습니다. 이제 이 작업을 상설화하기로 했습니다.

OpenAI는 9월 19일 전 세계 도메인 전문가를 대상으로 모델 안전성을 평가할 'OpenAI 레드팀 네트워크(OpenAI Red Teaming Network)' 공개 모집을 발표했습니다. 이번 모집은 12월 1일까지 진행됩니다.

일회성 테스트에서 상설 전문가 풀로 전환

과거 DALL-E 2와 GPT-4 출시 전에도 외부 전문가들이 레드팀으로 참여해 위험성을 평가한 바 있습니다. 하지만 대부분 모델 출시를 앞두고 일시적으로 이뤄지는 프로젝트에 가까웠습니다.

이번 네트워크 출범은 이러한 협업을 모델 개발 전 주기와 배포 이후까지 포괄하는 상시 체계로 전환하려는 시도입니다. 이를 통해 일회성 점검을 넘어 지속적이고 반복적인 안전성 평가를 진행하겠다는 구상입니다.

네트워크에 합류한다고 해서 모든 신규 모델을 다 테스트하는 것은 아닙니다. 프로젝트 성격에 맞춰 적합한 전문성을 가진 인원이 선별 투입됩니다. AI 기술이나 언어 모델에 대한 사전 지식이 없더라도, 특정 분야의 전문성과 다양한 지리적, 언어적 배경을 갖추고 있다면 누구나 지원할 수 있습니다.

연간 5시간도 가능, 유급 참여와 NDA 조건

참여 부담은 상당히 낮게 책정되었습니다. 전문가의 일정에 맞춰 투입 시간을 유연하게 조율할 수 있으며, 1년에 5시간에서 10시간 정도의 짧은 시간만 할애해도 참여가 가능합니다.

구체적인 레드팀 프로젝트에 투입될 경우 작업 시간에 대한 보상이 지급됩니다. 또한 멤버들은 네트워크 내에서 레드팀 실무 기법과 평가 방식을 서로 교류할 기회를 갖습니다.

다만 엄격한 비밀유지계약(NDA)이 전제됩니다. 일부 프로젝트는 무기한 비공개로 유지될 수 있어, 연구 결과를 자유롭게 대외적으로 발표해야 하는 학계 연구자라면 신중하게 고려해야 할 대목입니다. OpenAI는 평가 내용 중 일부를 향후 시스템 카드나 블로그를 통해 공개해 왔습니다.

왜 중요한가

우리는 OpenAI의 이번 조치가 실용적인 안전망 확장인 동시에, 뚜렷한 한계도 내포하고 있다고 봅니다.

전문가 입장에서는 아직 세상에 공개되지 않은 최첨단 AI 모델을 직접 들여다보고 정책과 위험 관리에 기여할 수 있는 드문 기회입니다. 유급으로 진행되며 연간 몇 시간만 참여해도 된다는 점은 매력적입니다. 하지만 NDA에 묶여 연구 실적으로 공개하기 어렵다는 제약은 학술적 성과를 중시하는 연구자들에게 큰 걸림돌이 될 수 있습니다.

업계 전반으로 보면, AI 위험은 이미 컴퓨터 공학의 범위를 훌쩍 넘어섰습니다. 생물학적 위협이나 금융 사기, 법적 책임 문제는 엔지니어만으로 걸러낼 수 없습니다. OpenAI가 상설 외부 전문가 네트워크를 구축함에 따라, 앤트로픽이나 구글 같은 경쟁사들도 형식적인 출시 전 테스트를 넘어 상시 검증 풀을 운영해야 하는 압박을 받게 될 것입니다.

그러나 한계도 분명합니다. 기업이 비용을 지불하고 비밀 서약을 맺은 상태에서 진행하는 테스트는 본질적으로 기업 주도의 '폐쇄형 외주 품질 관리'에 가깝습니다. 진정한 의미의 독립적인 외부 감사와는 거리가 있으며, 어떤 위험을 공개하고 감출지 최종 권한이 OpenAI에 남아 있는 한 안전성에 대한 대중의 의구심을 완전히 해소하기는 어려워 보입니다.