전 OpenAI 엔지니어의 폭로: 17명이 7주 동안 밤새워 코덱스 개발했다

전 세계에서 가장 주목받는 AI 기업인 오픈AI 내부는 실제로 어떤 모습으로 돌아가고 있을까요.

2020년 고객 데이터 스타트업 세그먼트를 트윌리오에 32억 달러에 매각했던 캘빈 프렌치-오웬이 오픈AI에서 1년간 근무한 뒤 3주 전 퇴사했습니다. 그는 최근 블로그를 통해 내부에서 겪은 생생한 경험담을 털어놓았습니다.

그는 사내 정치 때문이 아니라 다시 스타트업 창업자로 돌아가기 위해 떠났다고 밝혔습니다. 하지만 그가 전한 오픈AI의 민낯은 외부의 환상을 깨기에 충분합니다.

1년 만에 3000명으로 급증한 조직의 혼란

프렌치-오웬이 합류했을 당시 1000명이던 오픈AI의 직원 수는 그가 떠날 무렵 3000명으로 불어났습니다. 지난 3월 기준 챗GPT의 활성 사용자 수가 5억 명을 돌파하며 가파르게 성장한 탓에 채용을 멈출 수 없었기 때문입니다.

하지만 급격한 확장은 조직 붕괴를 불렀습니다. 사내 소통과 보고 체계가 흔들렸고, 관료주의 없이 누구나 아이디어를 실행할 수 있는 자유는 오히려 중복 작업이라는 부작용을 낳았습니다. 큐 관리나 에이전트 루프 같은 기본 기능조차 사내에 대여섯 개의 서로 다른 라이브러리가 존재할 정도였습니다.

엔지니어들의 숙련도 격차도 극심했습니다. 10억 명의 트래픽을 감당하는 구글 출신 시니어부터 실무 코드 경험이 부족한 갓 졸업한 박사들까지 한데 섞여 있었습니다. 파이썬 언어의 유연함까지 더해지면서 중앙 백엔드 모놀리스 코드는 쓰레기장이나 다름없는 상태가 됐고, 기능이 자주 멈추거나 심각한 지연이 발생했습니다.

7주간 밤샘 개발로 탄생한 코덱스

오픈AI는 여전히 자신이 거대 기업이라는 사실을 잊은 채 슬랙 하나로 회사를 굴리고 있었습니다. 초기 페이스북처럼 빠르게 움직이고 부딪히는 분위기가 강했고, 실제로 메타 출신 인력들이 가득했습니다.

커서나 앤스로픽의 클로드 코드와 경쟁하는 코딩 에이전트 코덱스는 약 8명의 엔지니어와 4명의 연구원, 2명의 디자이너와 GTM 인력, 1명의 PM으로 구성된 정예 팀이 만들었습니다. 이들은 거의 잠을 자지 않고 7주 만에 제품을 완성해 배포했습니다.

챗GPT의 유통 파워는 압도적이었습니다. 사이드바에 메뉴를 하나 추가했을 뿐인데 사용자가 순식간에 폭증했습니다. 프렌치-오웬은 제품을 노출하자마자 이런 폭발적인 반응을 얻는 것은 처음 봤다고 전했습니다.

사내 문화는 유출을 극도로 꺼리는 비밀주의를 띠면서도 X의 여론에는 과도할 만큼 민감했습니다. 직원들 사이에서 회사가 트위터 분위기로 굴러간다는 농담이 나올 정도였습니다. 외부의 안전성 비판에 대해서는 인류 멸망 같은 공상적 위험보다 프롬프트 인젝션, 생물 무기, 정치적 편향, 증오 표현 같은 실질적인 위험을 방어하는 데 훨씬 더 많은 노력을 쏟고 있다고 선을 그었습니다.

왜 중요한가

이 기록은 오픈AI가 완벽한 무결점 집단이 아니라는 점을 보여줍니다. 초고속 성장에 따른 극심한 기술 부채와 비효율적인 중복 엔지니어링, 체계 없는 협업 등 여느 스타트업과 똑같은 성장통을 겪고 있습니다. 경쟁사나 개발자 입장에서 거인을 무작정 두려워할 필요는 없다는 뜻입니다.

하지만 동시에 챗GPT가 쥐고 있는 기본 화면의 유통 위력은 공포에 가깝습니다. 소수 정예 팀이 7주간 밤을 새워 만든 기능일지라도, 5억 명이 보는 사이드바에 얹는 순간 커서 같은 기존 강자들의 파이를 단숨에 흡수할 수 있습니다. 기술 격차보다 배포 채널의 장악력이 더 무서운 무기임을 증명한 셈입니다.

우리는 오픈AI의 이러한 해적선 같은 속도전이 지금의 독보적 위치를 만들었다고 봅니다. 다만 수억 명의 일상과 의료, 심리 상담까지 처리하는 거대 인프라가 된 상황에서, 쓰레기장 같은 코드베이스와 슬랙 중심의 즉흥적 운영을 계속 유지하는 것은 명백한 뇌관입니다. 오픈AI가 언제까지 이 막대한 부채를 떠안고 질주할 수 있을지가 다음 승부처로 보입니다.