OpenAI, 독립 AI 정렬 연구 펀드에 750만 달러 지원

프론티어 AI 연구소들이 자체적으로 안전성을 연구하고 있지만, 현재 방식이 한계에 부딪힐 경우를 대비한 대규모 외부 펀딩이 조성되었습니다.

OpenAI는 2월 19일, 영국 AI 안전 연구소(UK AISI)가 설립한 글로벌 독립 AI 정렬 연구 펀드인 ‘디 얼라인먼트 프로젝트(The Alignment Project)’에 750만 달러(약 560만 파운드)를 지원한다고 발표했습니다.

이번 기부로 해당 펀드의 총규모는 2700만 파운드(약 470억 원)를 넘어섰습니다. 공공, 자선 단체 및 산업계 후원자가 공동으로 조성한 기금이며, OpenAI의 지원금 관리는 르네상스 필란트로피(Renaissance Philanthropy)가 맡습니다.

심사에는 불개입, 지원 프로젝트 수만 확대

이번 프로젝트는 독립적인 AI 정렬 연구만을 지원하는 펀드 중 역대 최대 규모 중 하나입니다.

선정된 개별 프로젝트에는 5만 파운드에서 최대 100만 파운드의 연구비가 지급되며, 필요한 경우 컴퓨팅 자원과 전문가 지원도 함께 제공됩니다.

주목할 점은 OpenAI가 별도의 선발 프로그램을 만들거나 기존 심사 과정에 개입하지 않는다는 것입니다. 자금은 이미 전문 심사를 통과했으나 예산 한계로 대기 중이던 우수 프로젝트의 지원 슬롯을 늘리는 데 전액 사용됩니다.

영국 과학혁신기술부(DSIT) 산하 정부 연구 기관인 UK AISI는 심각한 AI 위험을 다루는 공식 기관으로, 이미 구축된 다분야 심사 파이프라인을 통해 독립성을 유지하며 자금을 집행하게 됩니다.

기존 정렬 방식이 실패할 경우를 대비한 보험

OpenAI는 대형 랩들이 막대한 컴퓨팅과 최신 모델 접근성을 가졌지만, 특정 로드맵에 얽매이지 않는 기초 이론 연구에서는 절대적인 우위를 갖지 못한다고 인정했습니다.

기존 빅테크의 정렬 작업은 모델을 점진적으로 배포하며 가드레일을 보완하는 엔지니어링에 집중되어 있습니다. 하지만 모델의 지능이 비약적으로 발전할 때 현재의 방식이 제대로 확장되지 않을 위험이 상존합니다.

이 펀드는 계산 복잡도 이론, 게임 이론 및 경제학 이론, 인지 과학, 정보 이론과 암호학 등 다양한 기초 학문 분야의 대안적 가설과 이론을 집중적으로 지원할 계획입니다.

왜 중요한가

학계와 독립 연구자들에게 이번 지원은 실질적인 기회입니다. 빅테크에 소속되지 않고도 최대 100만 파운드의 자금과 귀중한 컴퓨팅 자원을 확보해 독자적인 안전 연구를 수행할 수 있는 길이 열렸습니다.

업계 전체로 보면, AI 안전 연구가 소수 실리콘밸리 기업의 내부 사일로에 갇히는 위험을 완화할 수 있습니다. OpenAI가 영국 정부 산하 연구소와 독립 자선 단체에 운영을 전적으로 맡긴 것은, 이해 상충 논란을 피하면서 외부 생태계의 브레인을 활용하는 영리한 접근으로 평가할 수 있습니다.

다만 수십억 달러가 투입되는 최신 모델 훈련 비용에 비하면 750만 달러는 상대적으로 작은 액수입니다. 저희가 보기에 게임 이론이나 인지 과학 같은 순수 이론 연구의 결과물이 실제 거대 언어 모델의 배포 환경에서 작동하는 현실적인 안전 장치로 연결될 수 있을지가 향후 성패를 가를 핵심 쟁점입니다.