전 YC 대표 제프 랄스톤, AI 안전 스타트업 전용 펀드 'SAIF' 출범

실리콘밸리의 거의 모든 벤처 투자금이 AI의 성능 확장과 생산성 혁신에 쏠리고 있는 가운데, 기술의 '안전'에만 집중 투자하는 펀드가 등장했습니다. 주역은 바로 와이콤비네이터(YC)를 이끌었던 베테랑 투자자입니다.

전 YC 대표 Geoff Ralston은 신규 펀드 SAIF(Safe Artificial Intelligence Fund)를 출범하며 벤처 투자 무대에 복귀했습니다. 펀드 이름은 AI 안전이라는 테마를 뜻하는 동시에, YC가 창안한 초기 투자 계약 방식인 SAFE를 언어유희로 활용한 명칭입니다.

1000만 달러 밸류 캡에 10만 달러 수표 발행

Ralston은 YC에서 10년 이상 멘토로 활동한 뒤 2022년 Garry Tan 현 대표에게 자리를 넘기기 전까지 3년간 YC 대표직을 역임한 인물입니다.

그는 기업가치 상한 1000만 달러 조건의 SAFE 계약을 통해 스타트업당 10만 달러씩 투자할 계획입니다. 펀드의 전체 규모나 목표 투자 기업 수, 출자자(LP) 명단은 공개하지 않았습니다.

투자금 액수 자체보다 강력한 것은 창업자 지원 혜택입니다. Ralston은 YC 진입을 위한 코칭과 멘토링을 직접 제공하고, 자신이 보유한 광범위한 투자자 네트워크를 연결해 줄 방침입니다.

기업 비밀 보호 툴은 환영, 완전 자율 살상 무기는 배제

Ralston은 현재 대다수 AI 프로젝트가 안전을 최우선으로 두지 않는다고 지적하며, 안전한 AI 배포를 핵심 목표로 삼는 팀에만 자금을 집행하겠다고 밝혔습니다.

투자 대상은 꽤 넓습니다. AI 의사결정 과정을 설명하는 기술, 안전성 벤치마크, 지식재산권 보호, 컴플라이언스 준수, 허위정보 대응, AI 공격 탐지 툴이 포함됩니다. 기업 기밀을 누설하지 않는 협상 에이전트처럼 안전 기능이 내장된 실용 툴도 포함됩니다.

반면 명확한 투자 거부 분야도 밝혔습니다. 생물학 무기나 인간의 개입이 배제된 완전 자율 무기 체계에는 일절 투자하지 않는다는 입장입니다. 다만 이러한 AI 무기의 공격을 탐지하고 막아내는 '방어 시스템'에는 투자할 의향이 있다고 덧붙였습니다.

왜 중요한가

AI 신뢰성, 데이터 보안, 얼라인먼트 기술을 개발하는 극초기 개발자들에게 이번 펀드는 매우 매력적인 진입로입니다. 10만 달러는 거대 모델 학습 비용으로는 부족하지만, 전직 YC 대표의 직속 멘토링과 YC 프로그램 진입 가능성을 확보할 수 있다는 점에서 프리시드 단계의 실질적 가치가 큽니다.

방위산업 테크 진영이 인간 없는 자율 무기 개발로 무게추를 옮겨가는 시점에서, 영향력 있는 실리콘밸리 인사가 공개적으로 선을 그었다는 점도 산업적으로 주목할 만합니다. AI 안전이 단순한 규제 대응용 지출이 아니라 상업적 경쟁력을 지닌 독립 투자 분야로 자리 잡는 계기가 될 수 있습니다.

표준 계약으로 빠른 투자를 집행하는 전략은 현명해 보이지만, 1000만 달러의 밸류에이션 캡은 인재 유치전이 치열한 현재 시장에서 최고의 핵심 엔지니어를 끌어들이기에 다소 빡빡할 수 있습니다. 또한 안전의 범위를 너무 넓게 잡은 탓에 평범한 B2B SaaS 투자에 머무를 위험도 존재합니다.