메타 FAIR, 멀티모달 모델 카멜레온과 오디오 워터마크 등 신규 AI 모델 5종 공개
메타의 AI 연구 조직 FAIR가 신규 연구 모델 5종을 공개했다. 텍스트와 이미지를 동시 입출력하는 카멜레온, 비트와 코드로 제어하는 음악 모델 JASCO, 기존 대비 최대 485배 빠른 AI 음성 탐지 워터마크 기술 AudioSeal 등이 포함된다.
오픈소스
Llama, Qwen, DeepSeek 등 오픈소스·오픈 웨이트 모델과 주목할 만한 데이터셋, 프레임워크, 개발 도구.
최신 소식 보기
애플, 허깅페이스에 온디바이스용 코어 ML 모델 20종 공개
애플이 허깅페이스를 통해 기기 내에서 직접 구동되는 코어 ML 모델 20종과 데이터셋 4개를 공개했다. FastViT, DepthAnything 등이 포함되어 네트워크 연결 없이도 빠른 처리 속도와 사용자 개인정보 보호를 동시에 지원한다.
DeepSeek Coder V2 오픈소스 공개, GPT-4 Turbo 코딩 성능 추월
DeepSeek가 MoE 기반의 오픈소스 코드 모델인 DeepSeek Coder V2를 공개했다. 338개 언어와 128K 컨텍스트를 지원하며, HumanEval 등 주요 벤치마크에서 GPT-4 Turbo와 Claude 3 Opus를 제쳤다. 오픈소스 코딩 모델이 최상위 상용 모델을 넘어선 드문 사례로, MIT 라이선스 기반 16B 및 236B 모델로 배포된다.
오픈소스 모델 Qwen2 공개, 5가지 크기에 최대 128K 컨텍스트 지원
Qwen 팀이 차세대 오픈소스 모델 제품군 'Qwen2'를 공개했다. 0.5B부터 72B까지 5가지 크기로 제공되며 27개 추가 언어를 학습했다. 전 모델에 GQA를 적용해 추론 효율을 높였고, 7B와 72B 인스트럭트 모델은 최대 128K 토큰 컨텍스트를 지원한다. 72B를 제외한 하위 모델들은 Apache 2.0 라이선스로 배포된다.
예일대·EPFL, 저자원 의료 환경을 위한 메타 라마 3 기반 오픈소스 모델 '메디트론' 공개
EPFL과 예일대 의대 연구진이 메타 라마 3을 미세조정한 의료 특화 오픈소스 모델 'Llama-3[8B]-MeditronV1.0'을 공개했다. 의료 자원이 부족한 지역과 인도주의 지원 현장을 위해 개발되었으며, MedQA 등 주요 벤치마크에서 동급 오픈 모델 대비 최고 수준의 성능을 기록했다.
스노우플레이크, 기업용 오픈소스 LLM '아크틱' 공개
스노우플레이크가 기업 업무에 특화된 생성형 AI 모델 'Arctic LLM'을 Apache 2.0 라이선스로 오픈소스 공개했습니다. 4800억 개 파라미터 중 170억 개만 활성화하는 MoE 구조를 채택해 200만 달러라는 비교적 저렴한 비용으로 훈련됐으며, SQL 생성 및 엔터프라이즈 코딩 작업에서 데이터브릭스의 DBRX를 앞선다고 밝혔습니다.
엔비디아, 메타 '라마 3' 전 플랫폼 추론 최적화 지원
엔비디아가 메타의 최신 대규모 언어 모델 '라마 3'를 지원하기 위해 전 플랫폼 추론 최적화를 발표했다. H200 GPU 한 장으로 70B 모델 구동 시 초당 약 3,000토큰을 생성해 300명의 동시 사용자를 처리하며, 8B 모델은 RTX PC와 젯슨 오린 등 엣지 기기까지 지원된다.
허깅페이스, 8B 오픈 멀티모달 모델 '아이데픽스2' 공개
허깅페이스가 아파치 2.0 라이선스의 8B 오픈 비전-언어 모델 Idefics2를 공개했습니다. 원본 해상도 이미지를 그대로 처리하며 OCR과 문서 질의응답 성능을 대폭 강화해, 30B급 대형 모델에 맞먹는 벤치마크 결과를 보여줍니다.
미스트랄 AI, 대형 오픈소스 모델 'Mixtral 8x22B' 토렌트로 기습 공개
미스트랄 AI가 X에 토렌트 링크를 올리며 최신 모델 Mixtral 8x22B를 공개했다. 총 1,760억 파라미터 규모의 MoE 구조로 추론 시 440억 개만 활성화되며, 65,000 토큰 컨텍스트를 지원한다. Apache 2.0 라이선스로 배포돼 연구자와 개발자가 자유롭게 활용할 수 있다.
메타, 차세대 오픈소스 LLM '라마 3' 다음 달 내 출시 공식화
메타는 차세대 대규모 언어 모델 '라마 3(Llama 3)'를 다음 달 내에 출시할 계획이라고 밝혔다. 연내 다양한 사양의 모델을 순차 공개해 자사 전반 제품에 탑재할 예정이다. 전작 라마 2의 과도한 제약을 완화하고 파라미터 규모를 약 1,400억 개 수준까지 확장할 것으로 기대된다.
구글, 코드 특화 오픈 모델 ‘코드젬마’ 공개…2B·7B 3종 구성
구글이 허깅페이스와 협력해 코드 특화 대형언어모델 '코드젬마(CodeGemma)'를 공개했다. 젬마 체크포인트에 5000억 토큰을 추가 학습시켰으며, 코드 완성에 특화된 2B 모델과 7B 베이스 및 대화형 모델로 구성된다. 2B 모델은 약 6GB 메모리로 온디바이스 환경에서 구동할 수 있다.
Stability AI, 다국어 오픈소스 모델 'Stable LM 2 12B' 공개
Stability AI가 2조 개 토큰으로 사전학습된 'Stable LM 2 12B' 기본 및 지시어 튜닝 모델을 출시했다. 영어, 독일어, 프랑스어 등 7개 언어를 지원하며 도구 사용과 RAG 구축에 최적화됐다. 기존 1.6B 모델도 대화와 함수 호출 기능이 개선됐으며, 비상업적 이용은 무료다.
스태빌리티 AI, 단일 이미지로 3D 모델 만드는 'Stable Video 3D' 공개
Stability AI가 단일 이미지에서 다각도 회전 영상과 3D 메시를 생성하는 Stable Video 3D(SV3D)를 발표했다. 비디오 확산 모델을 기반으로 시점 일관성을 대폭 개선했으며, 카메라 궤적 제어 지원 여부에 따라 두 가지 모델로 나뉜다. 비상업용 가중치는 허깅페이스에서 공개됐다.
xAI, 대형 언어 모델 'Grok-1' 가중치 및 아키텍처 오픈소스 공개
xAI가 대형 언어 모델 'Grok-1'의 베이스 가중치와 네트워크 아키텍처를 Apache 2.0 라이선스로 오픈소스 공개했다. 전문가 혼합 방식을 적용해 처음부터 훈련한 모델로, 2023년 10월 사전 훈련을 마친 미조정 원본 체크포인트다. 사용 지침은 GitHub에서 확인할 수 있다.
스태빌리티 AI, 0.5초 만에 이미지로 3D 모델 만드는 '트리포SR' 오픈소스 공개
스태빌리티 AI와 트리포 AI가 단일 이미지에서 0.5초 만에 3D 모델을 생성하는 '트리포SR(TripoSR)'을 공개했다. 외장 GPU 없이도 구동될 만큼 가벼우며, 코드와 모델 가중치는 상업적 이용이 가능한 MIT 라이선스로 배포된다.
구글, 제미나이 기술 담은 오픈 모델 '젬마' 공개…노트북 구동 및 상업적 사용 가능
구글이 제미나이 기술 기반의 경량 오픈 모델 '젬마(Gemma)' 2B 및 7B를 공개했다. 동급 오픈 모델 대비 최고 수준의 성능을 갖춰 개인 노트북에서도 직접 실행할 수 있으며, 모든 조직의 상업적 이용을 지원한다.
애플, 텍스트 명령으로 사진 편집하는 오픈소스 AI 모델 'MGIE' 공개
애플이 UC 샌타바버라 연구진과 함께 텍스트 설명만으로 이미지를 수정할 수 있는 오픈소스 AI 모델 'MGIE'를 공개했습니다. 피자 사진에 '더 건강하게'라고 입력하면 채소를 얹어주는 등 자연어를 이해해 정밀한 편집을 수행합니다. 코드는 깃허브와 허깅페이스에 공개되었습니다.
오픈소스 AI 새 강자: 아바쿠스 AI, GPT-3.5 능가하는 '스마우그-72B' 공개
스타트업 아바쿠스 AI가 알리바바의 Qwen-72B를 미세조정한 오픈소스 언어 모델 '스마우그-72B'를 공개했다. 허깅페이스 오픈 LLM 리더보드에서 최초로 평균 80점을 돌파했으며 추론과 수학 평가에서 GPT-3.5 및 미스트랄 미디엄을 앞섰다. 모델 가중치는 허깅페이스에서 바로 내려받을 수 있다.
미스트랄 CEO, GPT-4급 오픈소스 모델 'miqu-1-70b' 유출 공식 인정
미스트랄 AI의 아서 멘슈 CEO는 벤치마크에서 GPT-4에 육박해 화제가 된 오픈소스 모델 'miqu-1-70b'가 자사의 구형 모델 유출본임을 확인했다. 초기 고객사 직원이 유출한 라마 2 기반 재학습 모델로, 오픈소스 진영의 추격 속도가 매우 빠름을 증명했다.
애플, 멀티모달 AI '페럿' 조용히 오픈소스 공개…이미지 내 특정 영역 정밀 인식
애플과 코넬대 연구진이 이미지 속 임의의 영역을 지정해 질문할 수 있는 멀티모달 모델 'Ferret'을 오픈소스로 공개해 뒤늦게 주목받고 있다. 사용자가 자유롭게 지정한 영역 내 대상을 정밀하게 인식해 답변을 제공한다. 평소 폐쇄적인 애플의 이례적인 행보지만, 현재는 비상업적 라이선스로만 제공된다.