전 OpenAI 임시 CEO 에멧 시어, AI 정렬 스타트업 '소프트맥스' 설립

2023년 말 샘 알트먼 축출 사태 당시, 단 이틀 동안 임시 CEO를 맡으며 혼란의 한복판에 섰던 전 트위치 대표 에멧 시어(Emmett Shear)가 AI 무대로 복귀했습니다.

그가 샌프란시스코에 세운 새 스타트업의 이름은 소프트맥스(Softmax)입니다. 힙멍크(Hipmunk) 창업자 애덤 골드스타인, AI 연구원 데이비드 블루민과 함께 의기투합했으며, 현재 팀 규모는 10명 안팎입니다. 앤드리슨 호로위츠(a16z), 라이언하트 벤처스, 플루럴 등으로부터 비공개 규모의 투자를 유치했습니다.

소프트맥스가 파고드는 분야는 거대언어모델(LLM) 경쟁이 아닌, AI의 핵심 난제로 꼽히는 ‘얼라인먼트(정렬)’입니다.

AI를 직원처럼 부리지 말고, 세포처럼 공존시켜라

현재 빅테크들이 취하는 얼라인먼트 방식은 인간이 규칙을 정하고 AI를 통제·지휘하는 수직적(계층적) 구조입니다.

시어는 이러한 통제 방식이 한계에 부딪힐 수밖에 없다고 봅니다. 오픈AI 사태를 겪으며 인간 자체가 불완전하다는 점을 뼈저리게 느꼈기 때문입니다. 불완전한 인간이 완벽하지 않은 규칙을 내리면서 AI를 맹목적으로 복종시키는 것은 위험하며, 때로는 AI가 인간의 잘못된 지시에 반론을 제기할 수 있어야 한다는 주장입니다.

소프트맥스는 이를 극복하기 위해 ‘유기적 얼라인먼트(Organic Alignment)’를 제안합니다. 터프츠 대학교 마이클 레빈 연구실의 생체 물리학 연구에서 아이디어를 얻었습니다. 다세포 생물의 세포들이나 개미 군집처럼, 중앙 통제자 없이도 각 개체가 고유성을 유지하며 전체의 번영을 위해 스스로 역할을 분화하는 방식입니다.

가상 세계에서 작은 에이전트로 실험

이 철학을 소프트웨어로 구현하기 위해 소프트맥스는 수천억 개의 파라미터를 가진 거대 모델 대신, 수십만에서 수백만 파라미터 수준의 작은 강화학습 에이전트를 활용하고 있습니다.

미니 가상 게임 환경에 이 작은 에이전트들을 풀어놓고, 서로 상호작용하면서 자생적인 사회적 행동과 협력 체계가 어떻게 발현되는지를 관찰하는 단계입니다.

구체적으로 어떤 제품을 만들어 수익을 낼지에 대해 시어는 말을 아끼고 있습니다. 제품 가능성보다 순수 기초 연구에 집중했던 초기 오픈AI의 길을 걷고 있으며, 기술적 돌파구가 마련되면 상용화 형태는 자연스럽게 드러날 것이라는 입장입니다.

왜 중요한가

일반 개발자나 기업 사용자 입장에서 당장 소프트맥스의 기술을 도입하거나 테스트할 수 있는 단계는 아닙니다. 현재로서는 순수 연구 단계의 스타트업이므로 도구를 기대하고 접근할 필요는 없습니다.

하지만 AI 안전성 분야 전체로 보면 의미 있는 균열을 내는 시도입니다. 인간 피드백 기반 강화학습(RLHF)이나 안전 가드레일을 덧대는 방식은 모델이 고도화될수록 땜질식 처방이라는 지적을 받아왔습니다.

인간의 불완전함을 인정하고 생물학적 다세포 시스템에서 협력의 원리를 가져오겠다는 발상은 꽤 영리해 보입니다. 수십억 년 동안 진화가 검증한 분산형 조율 방식을 AI에 대입하려는 시도이기 때문입니다.

하지만 현실적인 위험과 의문도 큽니다. 인간에게 반박할 수 있는 자율적 에이전트라는 개념은 이론적으로는 매력적이지만, 실제 엔지니어링 환경에서는 통제력 상실이라는 또 다른 뇌관이 될 수 있습니다. 10명 규모의 작은 팀이 가상 시뮬레이션을 넘어 실제 상용 AI에 적용 가능한 수준의 대안을 내놓을 수 있을지는 냉정하게 지켜볼 일입니다.