메타, 오픈 AI 안전 도구 '퍼플 라마' 및 '라마 가드' 공개
메타가 오픈소스 생성형 AI의 안전한 구축을 지원하는 '퍼플 라마' 프로젝트를 발표했다. LLM 사이버 보안 평가 지표와 위험 입출력을 필터링하는 오픈 파운데이션 모델 '라마 가드'를 공개했으며, 연구와 상업적 용도로 모두 자유롭게 활용할 수 있다.
오픈소스
Llama, Qwen, DeepSeek 등 오픈소스·오픈 웨이트 모델과 주목할 만한 데이터셋, 프레임워크, 개발 도구.
최신 소식 보기
애플, 맥 전용 오픈소스 머신러닝 프레임워크 'MLX' 기습 공개
애플 머신러닝 연구팀이 애플 실리콘에 최적화된 프레임워크 'MLX'와 'MLX Data'를 깃허브에 오픈소스로 공개했다. 파이토치와 잭스의 장점을 흡수하고 통합 메모리를 활용해 CPU와 GPU 간 데이터 이동 없이 연산하도록 설계됐다. 맥북에서도 라마(Llama)나 스테이블 디퓨전 같은 생성형 AI 모델을 가볍게 학습하고 구동할 수 있게 됐다.
메타, 감정과 억양 살리는 실시간 통역 AI '심리스' 공개
메타가 대화의 감정과 리듬을 살려 통역하는 AI 시스템 '심리스(Seamless)'를 공개했다. 말하는 도중 약 2초 지연으로 번역하는 스트리밍 모델과 화자의 억양과 감정을 보존하는 표현형 모델로 나뉜다. SeamlessM4T v2 기반의 전체 모델군과 정렬 도구가 오픈소스로 풀렸다.
허깅페이스의 2인 팀 'H4', Zephyr 등 오픈소스 챗봇 모델 개발
테크크런치에 따르면, 허깅페이스 내 단 2명으로 구성된 'H4' 팀이 오픈소스 챗봇 모델 정렬 연구를 주도하고 있다. 이들은 1,000대 이상의 A100 GPU를 활용해 Zephyr-7B-α 등을 개발했으며, 훈련 코드와 레시피를 커뮤니티에 공개하고 있다.
리가이푸의 01.AI, 오픈소스 모델 'Yi-34B' 공개…메타 LLaMA 2 제쳤다
리가이푸가 설립한 AI 스타트업 01.AI가 오픈소스 대규모 언어 모델 'Yi-34B'를 공개했다. 이 모델은 허깅페이스 베이스 LLM 순위에서 메타의 LLaMA 2를 제치고 1위에 올랐다. 알리바바 클라우드 등의 투자로 기업가치 10억 달러를 넘긴 이 회사는 향후 생태계 앱 개발에 집중할 계획이다.
메타 AI 수장 "기존 오픈소스 라이선스, 대형 모델에 맞게 바뀌어야"
메타 AI 연구 책임자 조엘 피노는 기존 소프트웨어 라이선스가 방대한 데이터를 학습하는 AI 모델의 저작권과 책임 문제를 담아내지 못한다고 밝혔다. Llama 2의 사용 제한 탓에 '가짜 오픈소스'라는 비판이 쏟아졌지만, 오픈소스 이니셔티브(OSI) 역시 한계를 인정하고 AI 전용 정의를 새로 마련 중이다.
Replit, 30억 파라미터 코드 생성 모델 'Replit Code V1.5 3B' 오픈소스 공개
Replit이 허깅페이스에 코드 보완 모델 Replit Code V1.5 3B를 오픈소스로 공개했다. 1조 개 토큰과 30개 주요 언어를 학습했으며, 파인튜닝 시 CodeLlama 7B 등 더 큰 모델을 앞서는 성능을 낸다. 상업적 목적의 미세조정도 자유롭게 허용된다.
엔비디아 TensorRT-LLM 오픈소스 공개: H100 추론 최대 8배 향상
엔비디아가 거대언어모델 추론을 가속하는 오픈소스 라이브러리 TensorRT-LLM을 공개했다. 인플라이트 배칭과 FP8 양자화를 적용해 H100 GPU 환경에서 A100 대비 최대 8배의 처리량과 라마 2 4.6배 속도 향상을 기록했다. 개발자는 C++이나 CUDA 없이 파이썬 API로 병렬 처리를 제어하며 데이터센터 비용을 크게 절감할 수 있다.
Diffusers, SDXL용 T2I-Adapter 지원: 용량 94% 대폭 절감
Hugging Face Diffusers 팀이 SDXL용 T2I-Adapter 지원을 공개했다. 기존 ControlNet 대비 94% 줄어든 79M 파라미터와 158MB 용량에 불과하며, 디노이징 과정에서 1회만 연산되어 일반 GPU에서도 정밀한 스케치 및 포즈 제어가 가능해졌다.
TII, 1800억 매개변수 오픈소스 언어 모델 '팰컨 180B' 공개
TII가 1800억 개 매개변수를 지닌 오픈소스 언어 모델 '팰컨 180B'를 허깅페이스에 공개했다. 3조 5000억 토큰으로 학습되어 라마 2 70B를 앞서고 구글 PaLM 2-Large에 필적한다. 다만 상업적 호스팅이 제한되며 추론에 A100 GPU 8장이 요구된다.
메타, 컴퓨터 비전 모델 'DINOv2' 아파치 2.0으로 상용화 허용 및 'FACET' 벤치마크 공개
메타는 컴퓨터 비전 모델 DINOv2의 라이선스를 아파치 2.0으로 전환해 상용 활용을 허용하고 분할 및 깊이 추정 확장 모델을 공개했다. 또한 시각 모델의 인구통계학적 편향을 측정하기 위한 3만 2천 장 규모의 공정성 평가 벤치마크 FACET도 함께 선보였다.
StableVideo 오픈소스 공개: 확산 모델 기반 텍스트 주도 일관적 비디오 편집
2023년 8월, 연구팀이 ICCV 2023 논문 프로젝트 StableVideo의 코드를 공개했다. ControlNet과 Text2LIVE를 기반으로 프레임 간 일관성을 유지하는 텍스트 기반 비디오 편집을 지원하며, 메모리 최적화를 통해 약 14GB VRAM 환경에서도 로컬 실행이 가능하다.
알리바바, 이미지 읽는 오픈소스 비전 모델 'Qwen-VL' 공개
알리바바가 금요일 오픈소스 비전 언어 모델 Qwen-VL과 Qwen-VL-Chat을 공개했다. 고해상도 이미지를 인식해 거리 표지판 번역, 사진 기반 수학 문제 풀이, 다중 이미지 스토리 생성 등을 수행한다. 두 모델은 모델스코프와 허깅페이스에 공개돼 연구자와 개발자가 자유롭게 미세조정할 수 있다.
메타, 코딩 특화 오픈소스 LLM '코드 라마' 공개
메타가 코드 생성 및 디버깅에 특화된 대형 언어 모델 '코드 라마(Code Llama)'를 공개했다. 라마 2를 기반으로 추가 학습되었으며 최대 70B 파라미터 크기와 10만 토큰의 컨텍스트 길이를 지원한다.
메타, 100개 언어 음성·텍스트 번역 올인원 AI 'SeamlessM4T' 공개
메타가 음성과 텍스트를 아우르는 다국어 다중모달 번역 AI 모델 'SeamlessM4T'를 발표했다. 약 100개 언어의 음성 인식과 텍스트 번역, 36개 언어의 음성 대 음성 번역을 단일 모델로 지원한다. 메타는 연구용 라이선스로 모델을 공개하고 27만 시간 분량의 정렬 데이터셋 메타데이터도 함께 배포했다.
스태빌리티 AI, 첫 일본어 특화 모델 'Japanese StableLM' 오픈소스 공개
Stability AI가 첫 일본어 대형 언어 모델인 70억 파라미터 규모의 'Japanese StableLM Alpha'를 공개했다. 7,500억 토큰으로 학습되어 일본어 벤치마크 최고 수준의 성능을 보이며, 기본 모델은 아파치 2.0 라이선스로 상용화가 가능하고 인스트럭트 모델은 연구용으로 배포된다.
알리바바, 70억 매개변수 오픈소스 LLM 'Qwen-7B' 공개
알리바바가 목요일 70억 개 매개변수 규모의 언어 모델 'Qwen-7B'와 대화형 모델 'Qwen-7B-Chat'을 오픈소스로 공개했다. 영어와 중국어를 모두 지원하며 글로벌 개발자와 기업이 무료로 AI 앱을 구축할 수 있다. 월간 활성 사용자가 1억 명 이상인 기업은 무료 라이선스가 필요하다. 메타의 라마에 맞서 오픈 생태계를 키우고 클라우드 사업 성장을 견인하려는 포석이다.
IBM·NASA, 허깅페이스에 최대 규모 지리공간 AI 파운데이션 모델 오픈소스 공개
IBM과 허깅페이스는 NASA의 위성 데이터를 기반으로 공동 개발한 지리공간 AI 파운데이션 모델을 오픈소스로 공개했다. 라벨링 데이터를 절반만 쓰고도 기존 기법 대비 15% 높은 성능을 보이며, 홍수 분석이나 산림 벌채 감시 등 기후 과학 연구에 즉시 활용할 수 있다.
메타, 텍스트로 음악과 음향 만드는 '오디오크래프트' 오픈소스 공개
메타가 텍스트 프롬프트로 음악과 음향 효과를 생성하는 오디오 모델 패키지 'AudioCraft'의 코드와 가중치를 전면 오픈소스로 공개했다. 음악 생성기 MusicGen, 효과음 생성 모델 AudioGen, 개선된 EnCodec 디코더가 하나로 묶여 누구나 자체 데이터셋으로 훈련할 수 있다.
OSI "메타 라마 2는 오픈소스가 아니다" 비판
오픈소스 이니셔티브(OSI)는 메타가 '오픈소스'라는 용어를 오용하고 있다며 라마 2는 오픈소스 정의(OSD)에 부합하지 않는다고 밝혔다. 상업적 이용 규모와 특정 활용 분야를 제한하기 때문이라는 설명이다. OSI는 10월 17일 '오픈소스 AI'의 공식 정의 초안을 발표할 계획이다.