메타, 오픈 AI 안전 도구 '퍼플 라마' 및 '라마 가드' 공개
메타가 오픈소스 생성형 AI의 안전한 구축을 지원하는 '퍼플 라마' 프로젝트를 발표했다. LLM 사이버 보안 평가 지표와 위험 입출력을 필터링하는 오픈 파운데이션 모델 '라마 가드'를 공개했으며, 연구와 상업적 용도로 모두 자유롭게 활용할 수 있다.
메타가 오픈소스 생성형 AI의 안전한 구축을 지원하는 '퍼플 라마' 프로젝트를 발표했다. LLM 사이버 보안 평가 지표와 위험 입출력을 필터링하는 오픈 파운데이션 모델 '라마 가드'를 공개했으며, 연구와 상업적 용도로 모두 자유롭게 활용할 수 있다.
애플 머신러닝 연구팀이 애플 실리콘에 최적화된 프레임워크 'MLX'와 'MLX Data'를 깃허브에 오픈소스로 공개했다. 파이토치와 잭스의 장점을 흡수하고 통합 메모리를 활용해 CPU와 GPU 간 데이터 이동 없이 연산하도록 설계됐다. 맥북에서도 라마(Llama)나 스테이블 디퓨전 같은 생성형 AI 모델을 가볍게 학습하고 구동할 수 있게 됐다.
메타가 대화의 감정과 리듬을 살려 통역하는 AI 시스템 '심리스(Seamless)'를 공개했다. 말하는 도중 약 2초 지연으로 번역하는 스트리밍 모델과 화자의 억양과 감정을 보존하는 표현형 모델로 나뉜다. SeamlessM4T v2 기반의 전체 모델군과 정렬 도구가 오픈소스로 풀렸다.
테크크런치에 따르면, 허깅페이스 내 단 2명으로 구성된 'H4' 팀이 오픈소스 챗봇 모델 정렬 연구를 주도하고 있다. 이들은 1,000대 이상의 A100 GPU를 활용해 Zephyr-7B-α 등을 개발했으며, 훈련 코드와 레시피를 커뮤니티에 공개하고 있다.
리가이푸가 설립한 AI 스타트업 01.AI가 오픈소스 대규모 언어 모델 'Yi-34B'를 공개했다. 이 모델은 허깅페이스 베이스 LLM 순위에서 메타의 LLaMA 2를 제치고 1위에 올랐다. 알리바바 클라우드 등의 투자로 기업가치 10억 달러를 넘긴 이 회사는 향후 생태계 앱 개발에 집중할 계획이다.
메타 AI 연구 책임자 조엘 피노는 기존 소프트웨어 라이선스가 방대한 데이터를 학습하는 AI 모델의 저작권과 책임 문제를 담아내지 못한다고 밝혔다. Llama 2의 사용 제한 탓에 '가짜 오픈소스'라는 비판이 쏟아졌지만, 오픈소스 이니셔티브(OSI) 역시 한계를 인정하고 AI 전용 정의를 새로 마련 중이다.
Replit이 허깅페이스에 코드 보완 모델 Replit Code V1.5 3B를 오픈소스로 공개했다. 1조 개 토큰과 30개 주요 언어를 학습했으며, 파인튜닝 시 CodeLlama 7B 등 더 큰 모델을 앞서는 성능을 낸다. 상업적 목적의 미세조정도 자유롭게 허용된다.
엔비디아가 거대언어모델 추론을 가속하는 오픈소스 라이브러리 TensorRT-LLM을 공개했다. 인플라이트 배칭과 FP8 양자화를 적용해 H100 GPU 환경에서 A100 대비 최대 8배의 처리량과 라마 2 4.6배 속도 향상을 기록했다. 개발자는 C++이나 CUDA 없이 파이썬 API로 병렬 처리를 제어하며 데이터센터 비용을 크게 절감할 수 있다.
Hugging Face Diffusers 팀이 SDXL용 T2I-Adapter 지원을 공개했다. 기존 ControlNet 대비 94% 줄어든 79M 파라미터와 158MB 용량에 불과하며, 디노이징 과정에서 1회만 연산되어 일반 GPU에서도 정밀한 스케치 및 포즈 제어가 가능해졌다.
TII가 1800억 개 매개변수를 지닌 오픈소스 언어 모델 '팰컨 180B'를 허깅페이스에 공개했다. 3조 5000억 토큰으로 학습되어 라마 2 70B를 앞서고 구글 PaLM 2-Large에 필적한다. 다만 상업적 호스팅이 제한되며 추론에 A100 GPU 8장이 요구된다.
메타는 컴퓨터 비전 모델 DINOv2의 라이선스를 아파치 2.0으로 전환해 상용 활용을 허용하고 분할 및 깊이 추정 확장 모델을 공개했다. 또한 시각 모델의 인구통계학적 편향을 측정하기 위한 3만 2천 장 규모의 공정성 평가 벤치마크 FACET도 함께 선보였다.
2023년 8월, 연구팀이 ICCV 2023 논문 프로젝트 StableVideo의 코드를 공개했다. ControlNet과 Text2LIVE를 기반으로 프레임 간 일관성을 유지하는 텍스트 기반 비디오 편집을 지원하며, 메모리 최적화를 통해 약 14GB VRAM 환경에서도 로컬 실행이 가능하다.
알리바바가 금요일 오픈소스 비전 언어 모델 Qwen-VL과 Qwen-VL-Chat을 공개했다. 고해상도 이미지를 인식해 거리 표지판 번역, 사진 기반 수학 문제 풀이, 다중 이미지 스토리 생성 등을 수행한다. 두 모델은 모델스코프와 허깅페이스에 공개돼 연구자와 개발자가 자유롭게 미세조정할 수 있다.
메타가 코드 생성 및 디버깅에 특화된 대형 언어 모델 '코드 라마(Code Llama)'를 공개했다. 라마 2를 기반으로 추가 학습되었으며 최대 70B 파라미터 크기와 10만 토큰의 컨텍스트 길이를 지원한다.
메타가 음성과 텍스트를 아우르는 다국어 다중모달 번역 AI 모델 'SeamlessM4T'를 발표했다. 약 100개 언어의 음성 인식과 텍스트 번역, 36개 언어의 음성 대 음성 번역을 단일 모델로 지원한다. 메타는 연구용 라이선스로 모델을 공개하고 27만 시간 분량의 정렬 데이터셋 메타데이터도 함께 배포했다.