프론티어 모델 포럼 첫 수장 선임, 1천만 달러 규모 AI 안전 펀드 조성

빅테크 경쟁자들이 손을 잡고 외부 연구 지원과 거버넌스 기구 운영에 나섰습니다.

Anthropic, Google, Microsoft, OpenAI는 10월 25일 프론티어 모델 포럼의 초대 상임이사로 크리스 메세롤을 선임하고, 1000만 달러 이상의 AI 안전 기금을 출범한다고 발표했습니다.

메세롤 상임이사는 브루킹스 연구소의 인공지능 및 신흥 기술 이니셔티브 디렉터를 역임한 정책 전문가입니다. 그는 앞으로 포럼을 이끌며 최첨단 AI 모델의 안전 연구를 촉진하고 정책 입안자 및 학계와의 협력을 조율하게 됩니다.

레드팀 표준화와 독립 연구 기금 조성

이번에 조성된 AI 안전 기금에는 4개 기업 외에도 패트릭 J. 맥거번 재단, 데이비드 앤드 루실 패커드 재단, 에릭 슈미트, 얀 탈린 등이 참여해 초기 자금 1000만 달러 이상을 마련했습니다.

기금은 학술 기관과 연구소, 스타트업 소속의 독립 연구자들이 프론티어 시스템의 위험 역량을 평가하고 레드팀 기술을 개발하는 데 집중 지원됩니다. 기금 운영은 메리디안 연구소가 맡아 수개월 내에 연구 제안서 접수를 시작합니다.

포럼은 기금 발표와 함께 레드팀 관련 첫 기술 실무 업데이트도 공개했습니다. 유해한 결과물과 위협을 식별하는 레드팀 작업의 업계 공통 정의를 수립하고, 향후 보안 취약점과 위험 역량을 연구소 간에 공유하는 책임 있는 공개 절차를 구축하고 있습니다.

왜 중요한가

독립 연구자와 학계 입장에서는 프론티어 AI를 평가할 수 있는 자체 도구를 개발할 실질적인 자금을 확보하게 됐습니다. 폐쇄적인 빅테크 연구실 밖에서 안전성 검증 툴이 나와야 모델에 대한 외부 신뢰도 쌓일 수 있습니다.

업계 전체로 보면 이번 연합은 정부 규제가 구체화되기 전에 선제적으로 업계 표준을 장악하려는 움직임으로 해석됩니다. 백악관 자발적 공약에 서명했던 선두 주자들이 모여 레드팀과 취약점 공개 가이드라인을 직접 만들면서 시장의 룰을 선점하겠다는 계산입니다.

다만 수십억 달러가 오가는 AI 개발 비용에 비하면 1000만 달러는 다소 미미한 규모로 보입니다. 안전 기준과 평가 툴의 정의가 초기 빅테크 위주로 굳어질 경우, 후발 스타트업들에게는 넘기 힘든 규제 장벽으로 작용할 수 있다는 점도 염두에 둬야 합니다.