스태빌리티 AI, 영국 정부 'AI 안전 정상회의' 참석

영국 정부가 블레치리 파크에서 주최하는 글로벌 'AI 안전 정상회의'에 오픈소스 AI 대표 주자인 스태빌리티 AI가 공식 참가합니다.

스태빌리티 AI는 11월 1일과 2일 양일간 열리는 이번 정상회의에 창업자이자 최고경영자(CEO)인 에마드 모스타크와 공공정책 총괄 벤 브룩스가 참석한다고 밝혔습니다. 버킹엄셔 블레치리 파크에서 열리는 이 행사에는 세계 각국 정부와 주요 AI 기업, 연구진이 대거 모여 프론티어 AI의 위험성과 국제 공조 방안을 논의합니다.

빅테크 독점에 맞서는 오픈소스 진영의 목소리

런던에 본사를 둔 영국 유니콘 기업 스태빌리티 AI는 이번 정상회의에서 오픈 생태계의 중요성을 강하게 주장할 계획입니다.

에마드 모스타크 CEO는 성명을 통해 영국이 AI 초강국으로 도약할 절호의 기회를 맞았으며, AI의 혜택이 대형 빅테크에만 집중되지 않고 모두에게 돌아가도록 해야 한다고 강조했습니다. 그는 개방형 기술이 전 세계적으로 풀뿌리 혁신을 이끌고 투명성과 건강한 경쟁을 촉진한다고 덧붙였습니다.

스태빌리티 AI는 이미지, 언어, 코드, 오디오, 3D, 비디오 등 다양한 생성 AI 모델을 개발해 온 경험을 바탕으로 규제 당국과 대화에 나설 예정입니다. 대기업 연구소뿐 아니라 일반 연구원까지 포괄하고, 장기적인 실존적 위협부터 당장 눈앞의 현실적 위험까지 모두 다루는 균형 잡힌 안전 프레임워크를 촉구한다는 구상입니다.

스태빌리티 AI는 대표 이미지 모델인 스테이블 디퓨전이 전 세계 AI 생성 이미지의 약 80%를 뒷받침하고 있으며, 오픈소스 언어 모델 다운로드 수가 600만 건을 돌파했다고 밝혔습니다. 오디오 모델인 스테이블 오디오는 타임지 선정 2023년 최고의 발명품에 이름을 올리기도 했습니다. 회사는 이미 미국 백악관의 자발적 AI 공약에 동참하고 영국 의회와 미국 의회 청문회에서 증언하는 등 규제 논의에 꾸준히 참여해 왔습니다.

왜 중요한가

소프트웨어 개발자와 소규모 스타트업 입장에서는 폐쇄형 빅테크 일색인 규제 논의 테이블에 스태빌리티 AI가 합류한 것 자체가 중요한 신호입니다.

거대 자본을 쥔 빅테크 기업들은 엄격한 안전 인증과 라이선스 규제를 요구하며 진입 장벽을 높이려는 유혹에 빠지기 쉽습니다. 이런 규제가 그대로 굳어지면 가중치가 공개되는 오픈소스 모델 생태계는 큰 타격을 입고, 자체 서버에서 AI를 돌리려는 중소 개발사의 발목이 잡힐 수 있습니다. 스태빌리티 AI의 참여는 이러한 규제 독점을 견제하는 현실적인 방패 역할을 할 수 있습니다.

영국 정부 입장에서도 미국 실리콘밸리 빅테크에만 의존하지 않고, 자국을 대표하는 생성 AI 유니콘을 내세워 글로벌 AI 거버넌스 주도권을 잡으려는 계산이 깔려 있습니다.

하지만 오픈소스 모델이 안고 있는 태생적인 안전성 한계는 여전히 과제입니다. 모델 가중치를 일단 공개하고 나면 악의적인 오용이나 변형을 클라우드 단에서 차단하기 어렵기 때문입니다. 스태빌리티 AI가 오픈소스의 투명성과 혁신을 지키면서도 각국 정부의 깐깐한 안전 눈높이를 어떻게 충족시킬지가 향후 규제 구도의 중요한 관전 포인트가 될 것으로 보입니다.