OpenAI, 이사회에 AI 안전 전문가 지코 콜터 교수 선임

경영진 갈등과 핵심 연구원 이탈을 겪었던 OpenAI가 이사회에 진짜 기술 보안 전문가를 영입했습니다.

OpenAI는 8월 8일, 카네기멜론대학교(CMU) 컴퓨터과학과 교수이자 머신러닝 학부장을 맡고 있는 지코 콜터(Zico Kolter)를 신임 이사로 선임했다고 발표했습니다. 콜터 교수는 이사회 산하 안전 및 보안 위원회에도 합류합니다.

대형 언어 모델의 탈옥 취약점을 파헤친 학자

지코 콜터는 인공지능 안전성과 정렬, 머신러닝 분류기의 견고성 분야에서 손꼽히는 연구자입니다.

그는 스탠퍼드대학교에서 컴퓨터과학 박사 학위를 받고 MIT에서 박사후 과정을 거친 뒤 CMU에서 12년 동안 머신러닝 분야의 핵심 인물로 활동해 왔습니다. NeurIPS와 ICML 등 주요 학회에서 우수 논문상을 여러 차례 수상했습니다.

특히 2023년 그의 연구팀은 자동화된 최적화 기법을 통해 기존 LLM의 안전 보호 장치를 우회하는 탈옥 공격 방식을 공개해 업계에 경종을 울리기도 했습니다.

그는 C3.ai의 수석 데이터 과학자를 역임했고, 현재 보쉬의 수석 전문가이자 AI 보안 스타트업 그레이 스완(Gray Swan)의 최고기술고문을 맡는 등 산업 현장 경험도 풍부합니다.

안전 및 보안 위원회의 면면

콜터 교수가 합류한 안전 및 보안 위원회에는 브렛 테일러(Bret Taylor) 이사회 의장, 애덤 디앤젤로(Adam D'Angelo), 폴 나카소네(Paul Nakasone) 전 미 국가안보국 국장, 니콜 셀리그먼(Nicole Seligman), 샘 올트먼(Sam Altman) CEO 등이 참여하고 있습니다.

이 위원회는 OpenAI의 모든 프로젝트에 대해 중대한 안전 및 보안 결정 권고안을 작성하는 역할을 맡고 있습니다.

브렛 테일러 의장은 콜터 교수가 지닌 깊은 기술적 이해가 범용인공지능(AGI)이 인류 전체에 이익이 되도록 보장하는 데 기여할 것이라고 밝혔습니다.

왜 중요한가

이번 인사는 OpenAI가 그동안 지적받아 온 기술 감독 공백을 메우는 가장 현실적인 조치라고 봅니다.

창립 멤버이자 안전 연구를 이끌던 인물들이 회사를 떠난 뒤, 새로 꾸려진 이사회는 관료와 법조계, 경영자 위주라 최신 딥러닝 위험을 직접 검증하기 어렵다는 비판을 받았습니다. 모델을 실제로 공격하고 취약점을 찾아내던 현역 연구자가 이사회에 들어오면서 기술적 신뢰성을 일정 부분 회복할 수 있게 되었습니다.

기업 고객과 개발자 입장에서도 모델의 견고성이 높아진다면 프롬프트 주입 공격이나 예기치 않은 시스템 오작동 위험을 낮추는 실질적인 혜택을 기대해 볼 수 있습니다.

다만 안전 위원회의 역할이 권고에 그친다는 점은 한계로 남습니다. 치열한 모델 출시 경쟁 속에서 상업적 속도전과 안전성 검증이 충돌할 때, 외부 연구자의 목소리가 얼마나 실질적인 제동 장치로 작동할지는 앞으로 지켜봐야 합니다.