OpenAI 안전팀 균열: 슈퍼얼라인먼트 수장 일리야·라이케 줄퇴사

인간을 뛰어넘는 초지능 AI의 폭주를 막겠다며 출범한 전담 조직의 수장들이 연이어 회사를 떠나고 있습니다.

OpenAI가 약 1년 전 야심 차게 발족한 '슈퍼얼라인먼트(Superalignment)' 팀은 인류에게 위협이 될 수 있는 가상의 초지능 시스템을 제어하는 것을 목표로 삼았습니다. 하지만 최근 이 팀을 이끌던 핵심 리더 일리야 수츠케버와 얀 라이케가 나란히 사임을 발표했습니다.

복귀 서명에 빠졌던 이들의 연쇄 이탈

이번 사임은 2023년 11월 샘 올트먼 CEO를 축출하려다 실패로 끝난 이사회 사태의 연장선에 있습니다. 당시 축출을 주도했던 수츠케버는 결국 입장을 번복하고 올트먼 복귀를 요구하는 서한에 서명했습니다.

당시 전체 직원 770명 중 738명이 복귀 서명에 동참했으나, 뉴욕타임스가 입수한 702명 서명 초기 본에는 특정 인물들의 이름이 빠져 있었습니다. 바로 이번에 떠난 얀 라이케를 비롯해 레오폴드 아셴브레너, 윌리엄 손더스 등 안전 팀 핵심 인력들이었습니다.

안드레이 카파시와 전 연구원 대니얼 코코타즐로, 컬런 오키프 역시 초기 서명 명단에 없었으며, 현재는 모두 회사를 떠난 상태입니다. 라이케는 퇴사 직후 소셜 미디어를 통해 안전보다 상업화가 우선시되는 회사 분위기를 시사했습니다.

뿌리 깊은 상업화와 안전의 갈등

OpenAI 내부에서 안전 문제는 항상 가장 민감한 균열점이었습니다. 2021년 다리오 아모데이와 다니엘라 아모데이 남매가 동료 9명과 함께 회사를 나가 경쟁사 앤트로픽을 세운 계기도 안전에 대한 이견 때문이었습니다.

지난해 이사회가 올트먼을 해임하려 했던 주된 명분 역시 안전 우려였지만, 올트먼이 복귀하면서 비영리 이사회 멤버들은 실리콘밸리 출신 경영진들로 교체되었습니다. 회사는 여전히 많은 인력이 안전 업무에 매진하고 있다고 주장하지만, 핵심 책임자들의 연쇄 이탈로 설득력이 약해지고 있습니다.

왜 중요한가

OpenAI의 모델과 API를 사용하는 개발자와 기업 고객 입장에서는 단기적으로 모델 출시 속도가 더 빨라지는 이점을 누릴 수 있습니다. 하지만 모델 자체의 원천적인 안전성 검증이 약화될 경우, 민감한 비즈니스 환경에 AI 에이전트를 도입할 때 발생하는 윤리적, 법적 위험을 온전히 사용자가 떠안아야 할 수도 있습니다.

업계 차원에서는 이탈한 안전 전문 인력들이 앤트로픽 등 경쟁사나 독립 연구소로 이동하면서, 안전성과 신뢰성을 앞세운 경쟁 진영이 더욱 확고해질 것으로 보입니다.

투자자들의 기대에 부응하고 빅테크와의 경쟁에서 앞서기 위해 속도를 내는 OpenAI의 선택은 사업적으로 영리해 보일 수 있습니다. 하지만 내부에서 브레이크를 밟아주던 핵심 연구자들을 모두 잃어버린 상황에서 앞으로 더 강력한 모델을 마주했을 때, 과연 내부에서 통제력을 유지할 수 있을지는 우려스럽습니다.