스태빌리티 AI, 첫 일본어 특화 모델 'Japanese StableLM' 오픈소스 공개
Stability AI가 첫 일본어 대형 언어 모델인 70억 파라미터 규모의 'Japanese StableLM Alpha'를 공개했다. 7,500억 토큰으로 학습되어 일본어 벤치마크 최고 수준의 성능을 보이며, 기본 모델은 아파치 2.0 라이선스로 상용화가 가능하고 인스트럭트 모델은 연구용으로 배포된다.
Stability AI가 첫 일본어 대형 언어 모델인 70억 파라미터 규모의 'Japanese StableLM Alpha'를 공개했다. 7,500억 토큰으로 학습되어 일본어 벤치마크 최고 수준의 성능을 보이며, 기본 모델은 아파치 2.0 라이선스로 상용화가 가능하고 인스트럭트 모델은 연구용으로 배포된다.
알리바바가 목요일 70억 개 매개변수 규모의 언어 모델 'Qwen-7B'와 대화형 모델 'Qwen-7B-Chat'을 오픈소스로 공개했다. 영어와 중국어를 모두 지원하며 글로벌 개발자와 기업이 무료로 AI 앱을 구축할 수 있다. 월간 활성 사용자가 1억 명 이상인 기업은 무료 라이선스가 필요하다. 메타의 라마에 맞서 오픈 생태계를 키우고 클라우드 사업 성장을 견인하려는 포석이다.
IBM과 허깅페이스는 NASA의 위성 데이터를 기반으로 공동 개발한 지리공간 AI 파운데이션 모델을 오픈소스로 공개했다. 라벨링 데이터를 절반만 쓰고도 기존 기법 대비 15% 높은 성능을 보이며, 홍수 분석이나 산림 벌채 감시 등 기후 과학 연구에 즉시 활용할 수 있다.
메타가 텍스트 프롬프트로 음악과 음향 효과를 생성하는 오디오 모델 패키지 'AudioCraft'의 코드와 가중치를 전면 오픈소스로 공개했다. 음악 생성기 MusicGen, 효과음 생성 모델 AudioGen, 개선된 EnCodec 디코더가 하나로 묶여 누구나 자체 데이터셋으로 훈련할 수 있다.
오픈소스 이니셔티브(OSI)는 메타가 '오픈소스'라는 용어를 오용하고 있다며 라마 2는 오픈소스 정의(OSD)에 부합하지 않는다고 밝혔다. 상업적 이용 규모와 특정 활용 분야를 제한하기 때문이라는 설명이다. OSI는 10월 17일 '오픈소스 AI'의 공식 정의 초안을 발표할 계획이다.
스태빌리티 AI가 플래그십 이미지 생성 모델 'SDXL 1.0'을 오픈소스로 공개했다. 기본 1024x1024 해상도를 지원하며 손과 텍스트, 공간 구도 표현력이 크게 향상됐다. 'masterpiece' 같은 수식어 없이도 정교한 이미지를 만들 수 있으며, 8GB VRAM 소비자용 GPU에서도 구동된다.
허깅페이스는 브라우저나 Node 환경에서 대형 언어 모델이 도구를 호출할 수 있게 돕는 라이브러리 Agents.js를 공개했다. 텍스트-이미지 생성 및 캡셔닝 등 멀티모달 도구를 기본 제공하며 커스텀 모델 확장도 지원한다. 단, 환경 내에서 생성된 코드를 직접 실행하는 방식이어서 보안 위험에 유의해야 한다.
InvokeAI가 3.0.0 버전을 공개했다. 내부 시스템을 노드 기반으로 전면 재설계하고 실험적인 노드 에디터를 추가했다. ControlNet 및 다이내믹 프롬프트가 통합되었으며 SDXL 초기 지원, 77토큰 이상의 긴 프롬프트 지원, Mac 환경 float16 메모리 절감 기능이 포함됐다.
허깅페이스가 영상 및 음원 자동 생성을 시연하는 실험 프로젝트 'AI WebTV'를 공개했다. ChatGPT로 프롬프트를 확장하고 오픈소스 모델 Zeroscope V2로 영상 생성, FILM 보간 및 MusicGen 음악 합성을 거쳐 FFmpeg로 실시간 송출한다. 아직 품질 한계는 있지만 완전 자동화된 오픈소스 멀티모달 방송 파이프라인의 가능성을 입증했다.
워싱턴포스트에 따르면 메타의 오픈소스 거대언어모델 라마(LLaMA)가 안전 가드레일 없는 성인용 챗봇 제작에 악용되고 있다. 폭력적인 시나리오까지 무제한 생성되면서, 프론티어 AI 모델을 오픈소스로 공개하는 것이 과연 안전한가를 둘러싼 논란이 다시 불붙었다.
마이크로소프트 연구소가 130억 파라미터 규모의 오픈소스 모델 '오르카(Orca)'를 공개했다. GPT-4의 단계별 추론 과정을 모방 학습해 BBH 벤치마크에서 ChatGPT와 대등한 추론 능력을 기록했다. 대규모 데이터센터 없이도 소형 모델이 뛰어난 논리력을 갖출 수 있음을 보여준다.
메타가 비전 모델 'I-JEPA'를 오픈소스로 공개했다. 픽셀 단위 예측 대신 인간처럼 추상적 의미 표현을 바탕으로 가려진 이미지를 유추하는 구조다. A100 GPU 16대로 72시간 만에 학습을 마칠 만큼 효율적이며, 세계 모델 구축의 핵심 단계로 평가받는다.
허깅페이스는 아부다비 TII가 개발한 오픈소스 LLM 'Falcon' 시리즈 지원을 발표했다. 아파치 2.0 라이선스로 상업적 이용이 가능하며, Falcon-40B는 LLaMA-65B를 제치고 오픈 LLM 리더보드 1위에 올랐다. 멀티쿼리 어텐션을 적용해 추론 메모리 효율을 크게 높였으며 일반 PC에서도 구동할 수 있다.
텍스트 프롬프트와 가사만 입력하면 보컬이 포함된 완곡을 생성하는 새로운 오픈소스 AI 음악 생성기가 GitHub에 공개됐다. 레게나 컨트리 등 다양한 장르에서 깔끔한 입체 음향을 들려주지만 일부 발음 오류가 남는다. 로컬 실행을 위한 가이드도 함께 제공된다.
메타가 대규모 다국어 음성 AI 모델 ‘MMS’와 코드를 오픈소스로 공개했다. 음성 인식 및 합성 지원 언어를 기존 100여 개에서 1100개 이상으로 늘리고, 4000개 이상의 구어 식별도 지원한다. 성경 등 다국어 종교 녹음 데이터를 학습에 활용해 데이터 부족을 해결했으며, 소멸 위기 언어 보존을 돕는다.