허깅페이스, 오픈소스 기반 맞춤형 AI 어시스턴트 출시… OpenAI GPTs에 맞불
허깅페이스가 오픈소스 기반의 맞춤형 챗봇 제작 기능인 '허깅챗 어시스턴트'를 무료로 출시했다. 유료 구독이 필요한 OpenAI의 커스텀 GPTs와 달리 완전 무료이며, 라마 2나 믹스트랄 등 원하는 오픈소스 LLM을 선택할 수 있다. 다만 현재는 웹 검색 및 RAG 기능을 지원하지 않는다.
허깅페이스가 오픈소스 기반의 맞춤형 챗봇 제작 기능인 '허깅챗 어시스턴트'를 무료로 출시했다. 유료 구독이 필요한 OpenAI의 커스텀 GPTs와 달리 완전 무료이며, 라마 2나 믹스트랄 등 원하는 오픈소스 LLM을 선택할 수 있다. 다만 현재는 웹 검색 및 RAG 기능을 지원하지 않는다.
허깅페이스가 구글 클라우드와 전략적 파트너십을 체결했다. 개발자는 버텍스 AI 및 구글 쿠버네티스 엔진에서 허깅페이스의 오픈 모델을 손쉽게 학습·배포하고 TPU 등 클라우드 하드웨어를 활용할 수 있다. 오픈소스 생태계와 구글 인프라가 결합되어 기업의 자체 AI 모델 구축 문턱이 크게 낮아질 전망이다.
테크크런치에 따르면, 허깅페이스 내 단 2명으로 구성된 'H4' 팀이 오픈소스 챗봇 모델 정렬 연구를 주도하고 있다. 이들은 1,000대 이상의 A100 GPU를 활용해 Zephyr-7B-α 등을 개발했으며, 훈련 코드와 레시피를 커뮤니티에 공개하고 있다.
메타가 허깅페이스, 유럽 클라우드 기업 스케일웨이와 함께 프랑스 STATION F에서 오픈소스 AI 스타트업 육성 프로그램을 발표했다. 선정된 5개 스타트업에 FAIR 연구진의 기술 멘토링, 개발 도구 및 컴퓨팅 파워를 지원할 예정이다.
Replit이 허깅페이스에 코드 보완 모델 Replit Code V1.5 3B를 오픈소스로 공개했다. 1조 개 토큰과 30개 주요 언어를 학습했으며, 파인튜닝 시 CodeLlama 7B 등 더 큰 모델을 앞서는 성능을 낸다. 상업적 목적의 미세조정도 자유롭게 허용된다.
클라우드플레어가 Workers AI, Vectorize, AI Gateway 등 엣지 AI 제품군을 발표했다. 이용자 인근 GPU에서 라마 2 등의 모델을 종량제로 실행하고, 벡터 데이터베이스 저장 및 캐싱 기반 비용 관리를 지원한다. 추론 데이터는 모델 학습에 쓰이지 않는다.
허깅페이스 Diffusers 라이브러리에 신규 이미지 생성 모델 '뷔르스트헨(Würstchen)'이 추가됐다. 2단계 압축 구조로 이미지를 42배 압축해 SDXL보다 훨씬 적은 메모리로 빠르게 이미지를 생성하며, 학습 비용도 기존 SD 1.4 대비 최대 16분의 1 수준으로 줄였다. 고성능 GPU가 부족한 연구자나 개인도 부담 없이 시도해 볼 수 있다.
Hugging Face Diffusers 팀이 SDXL용 T2I-Adapter 지원을 공개했다. 기존 ControlNet 대비 94% 줄어든 79M 파라미터와 158MB 용량에 불과하며, 디노이징 과정에서 1회만 연산되어 일반 GPU에서도 정밀한 스케치 및 포즈 제어가 가능해졌다.
TII가 1800억 개 매개변수를 지닌 오픈소스 언어 모델 '팰컨 180B'를 허깅페이스에 공개했다. 3조 5000억 토큰으로 학습되어 라마 2 70B를 앞서고 구글 PaLM 2-Large에 필적한다. 다만 상업적 호스팅이 제한되며 추론에 A100 GPU 8장이 요구된다.
오픈소스 AI 플랫폼 허깅페이스가 기업가치 45억 달러를 인정받으며 2억 3500만 달러 규모의 시리즈 D 투자를 유치했다. 이번 라운드에는 구글, 아마존, 엔비디아, 인텔, AMD 등 주요 빅테크 기업들이 대거 참여했으며, 플랫폼 내 모델과 데이터셋 수도 100만 개를 돌파했다.
허깅페이스가 VMware와 협력해 기업용 코드 어시스턴트 솔루션 SafeCoder를 공개했습니다. 모든 학습과 추론이 고객사 자체 VPC 내에서 실행되어 소스 코드 유출을 완벽히 차단합니다. 오픈소스 StarCoder 기반으로 기업 고유의 '온프레미스 깃허브 코파일럿'을 구축할 수 있습니다.
엔비디아와 허깅페이스가 DGX 클라우드 슈퍼컴퓨팅을 허깅페이스 플랫폼에 통합한다고 발표했다. 노드당 8개의 H100 또는 A100 GPU를 탑재한 '서비스형 훈련 클러스터'를 도입해 원클릭으로 기업 맞춤형 대형 언어모델 학습을 지원한다. 향후 수개월 내 정식 제공될 예정이다.
IBM과 허깅페이스는 NASA의 위성 데이터를 기반으로 공동 개발한 지리공간 AI 파운데이션 모델을 오픈소스로 공개했다. 라벨링 데이터를 절반만 쓰고도 기존 기법 대비 15% 높은 성능을 보이며, 홍수 분석이나 산림 벌채 감시 등 기후 과학 연구에 즉시 활용할 수 있다.
허깅페이스는 브라우저나 Node 환경에서 대형 언어 모델이 도구를 호출할 수 있게 돕는 라이브러리 Agents.js를 공개했다. 텍스트-이미지 생성 및 캡셔닝 등 멀티모달 도구를 기본 제공하며 커스텀 모델 확장도 지원한다. 단, 환경 내에서 생성된 코드를 직접 실행하는 방식이어서 보안 위험에 유의해야 한다.
허깅페이스가 영상 및 음원 자동 생성을 시연하는 실험 프로젝트 'AI WebTV'를 공개했다. ChatGPT로 프롬프트를 확장하고 오픈소스 모델 Zeroscope V2로 영상 생성, FILM 보간 및 MusicGen 음악 합성을 거쳐 FFmpeg로 실시간 송출한다. 아직 품질 한계는 있지만 완전 자동화된 오픈소스 멀티모달 방송 파이프라인의 가능성을 입증했다.
AMD가 허깅페이스의 하드웨어 파트너 프로그램에 합류했다. 트랜스포머 라이브러리에 AMD ROCm SDK를 통합해 인스팅트 GPU와 라이젠, 에픽 CPU 전반에서 모델 학습과 추론 속도를 최적화한다. 엔비디아 중심의 AI 칩 시장에서 개발자들에게 가성비 높은 새로운 하드웨어 선택지를 제공할 전망이다.
허깅페이스는 아부다비 TII가 개발한 오픈소스 LLM 'Falcon' 시리즈 지원을 발표했다. 아파치 2.0 라이선스로 상업적 이용이 가능하며, Falcon-40B는 LLaMA-65B를 제치고 오픈 LLM 리더보드 1위에 올랐다. 멀티쿼리 어텐션을 적용해 추론 메모리 효율을 크게 높였으며 일반 PC에서도 구동할 수 있다.
IBM이 연례 행사 '씽크'에서 기업용 AI·데이터 플랫폼 '왓슨x(Watsonx)'를 발표했다. 파운데이션 모델 개발부터 거버넌스까지 아우르는 3가지 제품군으로 구성되며, 허깅페이스와도 파트너십을 맺었다. 기업들이 데이터 보안과 신뢰성을 확보한 상태에서 자체 AI를 구축할 수 있도록 지원하는 것이 핵심이다.
허깅페이스와 서비스나우가 오픈소스 코드 생성 모델 '스타코더(StarCoder)'를 출시했다. 150억 개 매개변수 규모로 80개 이상의 프로그래밍 언어를 지원하며 허용 라이선스 데이터로 학습됐다. 기업을 포함해 누구나 무료로 상용화할 수 있어 유료인 깃허브 코파일럿의 강력한 오픈소스 대안으로 주목받고 있다.
허깅페이스가 챗GPT의 오픈소스 대안인 허깅챗(HuggingChat)을 출시했다. 오픈 어시스턴트의 최신 모델과 허깅페이스 추론 API를 기반으로 구동된다. 폐쇄형 API가 주도하는 시장에서 오픈소스 진영의 대표 대안으로 나섰다.