앤트로픽, 전 오픈AI 안전 책임자 얀 레이케 영입

오픈AI를 퇴사하며 회사의 안전 불감증을 공개 저격했던 핵심 연구원이 결국 최대 라이벌 품에 안겼습니다.

오픈AI의 정렬 연구를 이끌었던 얀 라이케(Jan Leike)는 앤트로픽에 합류해 새로운 ‘슈퍼얼라인먼트(초정렬)’ 팀을 이끌게 되었다고 밝혔습니다.

공중분해된 연구팀의 부활

라이케는 X를 통해 앤트로픽의 새 팀이 확장 가능한 감독, 약한 모델에서 강한 모델로의 일반화, 그리고 자동화된 정렬 연구 등 AI 안전의 핵심 과제에 집중할 것이라고 전했습니다.

테크크런치에 정통한 소식통에 따르면 라이케는 앤트로픽의 최고과학책임자인 재러드 카플란에게 직접 보고하게 됩니다. 기존에 앤트로픽 내부에서 확장 가능한 감독 기술을 연구하던 인력들도 라이케 팀으로 이동해 합류할 예정입니다.

이 연구 과제들은 얼마 전 오픈AI가 해체한 슈퍼얼라인먼트 팀의 목표와 거의 일치합니다. 라이케가 공동으로 이끌던 해당 팀은 4년 안에 초지능 통제 문제를 해결하겠다는 야심 찬 목표를 세웠으나, 경영진과의 갈등과 자원 배분 문제로 좌초된 바 있습니다.

반복되는 오픈AI 이탈의 역사

앤트로픽은 줄곧 오픈AI보다 안전을 더 중요하게 생각하는 연구소라는 점을 강조해 왔습니다.

애초에 앤트로픽 자체가 그런 반발에서 시작된 회사입니다. 다리오 아모데이 앤트로픽 CEO는 과거 오픈AI의 연구 부사장이었으며, 오픈AI의 지나친 상업화 방향성에 반대해 잭 클라크 등 동료들과 함께 회사를 나와 앤트로픽을 차렸습니다.

라이케의 이번 합류는 오픈AI의 상업화에 실망한 핵심 안전 연구 인력이 앤트로픽으로 넘어가는 흐름을 다시 한번 증명한 셈입니다.

왜 중요한가

이번 영입은 최전선 AI 안전 연구의 주도권이 어디로 향하고 있는지를 잘 보여줍니다.

오픈AI가 안전 팀을 해체하고 제품 출시에 매달리면서 실망했던 연구자들에게, 앤트로픽은 가장 매력적인 대안이자 피난처임을 확실히 굳혔습니다. 라이케를 최고과학책임자 직속으로 배치하고 기존 내부 연구팀까지 붙여준 것은 매우 전략적이고 영리한 선택입니다.

하지만 숙제도 분명합니다. 초지능 정렬 연구는 막대한 컴퓨팅 파워를 소모하는데, 앤트로픽 역시 아마존 등의 대규모 투자를 받으며 상업화 압박에서 완전히 자유로울 수는 없습니다.

과연 앤트로픽이 오픈AI와 달리 라이케의 팀에 약속된 연산 자원과 자율성을 끝까지 보장할 수 있을지가 진정한 시험대가 될 것으로 보입니다.