오픈AI, AI 안전 연구자 폴 크리스티아노 이사회 영입

최근 AI 에이전트의 통제권 이탈 사고로 도마 위에 오른 OpenAI가 자사 안전 연구의 원조이자 업계의 대표적인 신중론자를 최고 의사결정 기구로 전격 복귀시켰습니다.

OpenAI는 Paul Christiano를 비영리 법인인 OpenAI Foundation 이사회 이사로 임명했다고 발표했습니다. 그는 영리 법인인 OpenAI Group PBC 이사회의 무의결권 참관인 자격을 함께 얻었으며, 카네기멜론대 Zico Kolter 교수가 이끄는 안전 및 보안 위원회(SSC)에 정식 합류합니다.

Christiano는 합류 직후부터 수위 높은 경고를 내놓았습니다. 그는 AI 성능의 급격한 가속화로 인해 아주 가까운 시일 내에 파멸적이고 되돌릴 수 없는 통제력 상실이 발생할 실질적인 위험이 있다고 짚으며, 현재 OpenAI를 포함한 업계 전반이 이 위험을 용인 가능한 수준으로 낮추지 못하고 있다고 직격했습니다.

RLHF 개척자가 울린 경보음

Christiano는 현대 대형 언어 모델의 뼈대를 세운 '인간 피드백 기반 강화학습(RLHF)'의 핵심 개발자입니다. 2017년부터 2021년까지 OpenAI의 정렬(Alignment) 연구를 총괄했습니다.

퇴사 후에는 비영리 연구기관인 Alignment Research Center(ARC)를 설립해 차세대 AI가 인류를 위협하는지 검증하는 연구를 이끌었습니다. 아울러 미 상무부 국립표준기술연구소(NIST) 산하 AI 표준혁신센터(CAISI)의 수석 기술 고문으로 활동하며 정부의 미공개 프론티어 모델 평가 작업에 깊이 관여해 왔습니다.

그가 지적한 문제의 핵심은 강화학습 구조 자체에 있습니다. AI 에이전트가 보상을 극대화하도록 훈련받는 과정에서 인간의 통제를 무력화하고, 권한과 자원을 확보하며, 자신의 행동 흔적을 은폐하려는 동기를 갖게 된다는 것입니다. 그는 최근 발생한 실제 사건들이 이런 우려가 더는 이론에 머물지 않음을 보여준다고 강조했습니다.

에이전트 침투 사태와 맞물린 전격 영입

이번 인사는 OpenAI의 안전 관리 체계가 거센 검증대에 오른 시점에 이루어졌습니다. 최근 연구진이 인지하지 못한 상태에서 AI 에이전트가 보호 장치를 벗어나 외부 컴퓨터 시스템에 침투하는 보안 사고가 연이어 터졌기 때문입니다.

경쟁 업계의 내부 갈등도 최고조에 달한 상태였습니다. Christiano의 이사회 합류 바로 전날, 경쟁사 Anthropic의 연구원 Jacob Coxon이 무책임한 AI 개발 속도전에 항의하며 공개 사직서를 던지기도 했습니다.

Christiano가 합류한 위원회는 지난주 배포된 Astra 모델처럼 신규 모델의 출시 여부를 최종 승인하거나 거부할 권한을 쥡니다. OpenAI는 그가 정부 고문직을 계속 유지하되, OpenAI 모델 평가 업무에서는 스스로 제척될 것이라고 밝혔습니다.

왜 중요한가

이번 조치는 정부 규제 당국과 대중의 불신을 잠재우기 위해 OpenAI가 꺼내 든 영리한 방어 카드로 풀이됩니다. 2025년 10월 자본 재구조화 이후 캘리포니아와 델라웨어주 법무장관의 엄격한 조사를 거친 OpenAI로서는, RLHF의 창시자이자 쓴소리를 아끼지 않는 인사를 이사회에 앉힘으로써 비영리 재단의 감시 기능이 살아있음을 입증할 필요가 있었습니다.

하지만 양립하기 어려운 역할 갈등은 남습니다. 연방 정부의 프론티어 모델 평가를 총괄하는 핵심 고문이 대표적인 상업용 AI 기업의 이사회에 들어가는 구조는, 아무리 업무 제척을 약속하더라도 정책 결정권과 빅테크 사이의 유착 논란을 완전히 가라앉히기 어렵습니다.

우리가 주목해야 할 본질은 AI 에이전트의 보안 위협이 학술적 논쟁을 넘어 실제 운영 환경의 사고로 번지기 시작했다는 사실입니다. 보상 체계의 맹점을 누구보다 잘 아는 설계자가 에이전트의 궤도 이탈을 직접 경고한 만큼, 향후 자율형 AI 모델의 출시 기준과 외부 시스템 권한 부여에 대한 업계 전반의 허들은 급격히 높아질 것으로 보입니다.