본문으로 건너뛰기
IFAI

AI 모델

독일 알레프 알파, 70B 모델로 GPT-3 추격… 연내 300B 모델도 예고

게시 확산 지수 42

2월, 독일 AI 스타트업 알레프 알파가 벤치마크 결과를 공개하며 자사의 700억 매개변수 모델 Luminous-Supreme이 OpenAI의 1750억 매개변수 GPT-3와 대등한 성능을 기록했다고 밝혔다. 또한 연내 출시를 목표로 GPT-4와 경쟁할 3000억 매개변수 모델을 테스트 중이다.

독일 알레프 알파, 70B 모델로 GPT-3 추격… 연내 300B 모델도 예고
이미지: the-decoder.com

ChatGPT의 전 세계적인 돌풍 속에서 유럽은 늘 같은 질문에 직면해 있었습니다. 바로 유럽 자체의 초거대 AI와 디지털 주권은 어디에 있는가라는 점입니다.

독일 하이델베르크에 본사를 둔 AI 스타트업 알레프 알파(Aleph Alpha)가 최근 공개한 벤치마크 결과는 이 질문에 대한 유의미한 해답을 보여줍니다. 이 회사의 대표 언어 모델이 미국 오픈AI의 GPT-3 수준에 도달한 것으로 나타났습니다.

절반도 안 되는 파라미터로 GPT-3와 동등한 성능 달성

이번 평가의 주인공은 알레프 알파가 2022년 8월 선보인 700억(70B) 파라미터 규모의 모델 '루미너스 슈프림(Luminous-Supreme)'입니다. 비교 대상은 1750억 파라미터의 오픈AI GPT-3 다빈치(davinci), 메타의 OPT, 그리고 오픈소스 진영 빅사이언스의 블룸(BLOOM)이었습니다.

오픈 연구 단체 엘루더AI(EleutherAI)의 평가 도구를 활용해 분류, 상식 추론, 자연어 추론 등 다양한 영역에서 진행된 테스트에서 루미너스 슈프림은 대부분의 과제에서 GPT-3와 대등한 결과를 냈으며, 한 항목에서는 오히려 앞섰습니다. 반면 메타의 OPT와 블룸은 평균적으로 몇 퍼센트 뒤처졌습니다.

파라미터 수가 절반에도 미치지 못한다는 점은 실제 운영 환경에서 리소스 소모가 적고 확장성이 뛰어나다는 실질적인 장점으로 이어집니다.

2년의 격차를 좁히고 GPT-4 정조준

다만 이번 성과는 유럽 AI 업계의 숙제도 함께 드러냅니다. 오픈AI가 GPT-3를 공개한 시점은 2020년 5월이었기에, 유럽이 동급 모델을 내놓기까지 2년 반 넘는 시간이 걸린 셈입니다. 그사이 오픈AI는 인간 피드백을 반영한 개선 모델을 선보였고, 구글 역시 5400억 파라미터 규모의 PaLM을 공개하며 앞서갔습니다.

알레프 알파도 발걸음을 재촉하고 있습니다. 이달 오픈AI의 최신 모델에 대응하기 위해 루미너스 슈프림 컨트롤을 선보인 데 이어, 현재는 3000억 파라미터 규모의 '루미너스 월드(Luminous-World)'를 테스트 중입니다.

복잡하고 중요한 기업용 작업을 목표로 설계된 이 초대형 모델은 올해 말 출시될 예정이며, 출시를 앞둔 GPT-4와 직접 맞붙게 됩니다. 창업자이자 CEO인 요나스 안드룰리스는 유럽의 규범과 기준에 부합하는 투명성과 설명 가능성을 지속적으로 강화하겠다고 밝혔습니다.

왜 중요한가

유럽 현지 기업과 기관들에게는 미국의 빅테크 인프라에 민감한 데이터를 전적으로 의존하지 않아도 되는 실질적인 대안이 생겼다는 점이 가장 큰 가치입니다. 강력한 데이터 규제와 프라이버시 법안을 준수해야 하는 유럽 내 공공 및 금융 기관들이 즉시 검토해 볼 만한 선택지입니다.

산업 전체로 보면 무조건적인 크기 키우기 경쟁 대신, 70B 모델로 175B 모델을 상대할 수 있다는 고효율 아키텍처의 가능성을 입증했습니다. 이는 거대 자본을 동원하기 어려운 후발 주자들에게 중요한 기술적 이정표가 됩니다.

우리가 보기에 알레프 알파의 전략에서 가장 돋보이는 부분은 단순한 챗봇 모방이 아니라 투명성과 설명 가능성을 전면에 내세운 점입니다. 유럽 특유의 엄격한 규제 환경을 장벽이 아닌 차별화 요소로 활용한 영리한 선택입니다.

하지만 대규모 컴퓨팅 인프라와 자본 격차라는 불안 요소는 여전히 큽니다. 미국 진영이 쏟아붓는 자본과 연산 자원에 맞서 후속 300B 모델을 안정적으로 서비스할 수 있을지가 관건입니다. 유럽 차원의 전폭적인 자금 및 인프라 지원이 뒤따르지 않는다면 좁혀진 격차가 다시 벌어질 수 있습니다.

출처 (1)

  1. [1]
    the-decoder.com(새 탭에서 열림)원문the-decoder.com

매일 AI 콘텐츠 픽