본문으로 건너뛰기
IFAI

온디바이스 AI

업계 태그소식 622개

  1. 오픈소스확산 지수 48

    prism-ml, Bonsai-2 공개: 3진 가중치로 27B 모델을 6GB로 압축

    prism-ml이 극도로 압축된 모델 컬렉션 Bonsai-2를 공개했다. 가중치를 -1, 0, +1만 사용하는 3진 양자화 기법으로 27B 크기 모델을 9분의 1 수준인 5.9GB로 줄였으며, 원본에 가까운 성능을 유지해 일반 소비자용 GPU와 Mac에서도 원활히 구동된다.

  2. AI 도구확산 지수 40

    Perplexity, 윈도우 지원 시작: RTX GPU로 로컬 AI 에이전트 구동

    Perplexity가 24GB 이상 VRAM을 탑재한 NVIDIA RTX PC와 워크스테이션을 지원하는 윈도우용 ‘Portable Computer’를 출시했다. Qwen 3.8 27B 등의 로컬 모델을 활용해 복잡한 작업을 기기 내에서 직접 수행하며, 민감한 데이터를 안전하게 보관하면서 클라우드 크레딧 소모 없이 작업할 수 있다.

  3. AI 도구확산 지수 43

    애플, Siri AI 출시: 화면 인식과 개인 맥락 이해 결합

    애플이 차세대 Apple Intelligence를 탑재한 완전히 새로워진 'Siri AI'를 발표했습니다. 사용자의 이메일·메시지 등 개인 맥락과 화면 속 내용을 인식해 서드파티 앱 작업을 대신 수행합니다. 영어 베타가 오늘 시작되며, 다음 달 한국어로도 확대됩니다.

  4. 오픈소스확산 지수 48

    ZGCM-1: 수학과 검색에 특화된 7.39B 오픈소스 모델 공개

    중관춘 아카데미와 중관춘 인공지능 연구원이 수학 추론 및 에이전트 검색용 7.39B 밀집 모델 'ZGCM-1'을 오픈소스로 공개했다. 256K 컨텍스트를 지원하며 MATH-500에서 97.13%를 기록했고, 사전 학습부터 미세조정까지의 전체 파이프라인과 데이터 워크플로를 모두 공개해 일반 소비자용 GPU에서도 구동할 수 있다.

  5. 오픈소스확산 지수 48

    Edge0: SSD를 메모리처럼 활용해 35B 모델을 2.5GB RAM에서 구동

    오픈소스 스트리밍 MoE 추론 프레임워크 Edge0가 공개되었다. SSD에서 필요한 전문가 가중치를 실시간으로 읽어와 35B 모델을 약 2.5GB의 활성 메모리만으로 Mac과 iPhone 등에서 실행할 수 있다. 다음 스텝의 라우팅을 사전 예측해 지연 시간을 줄임으로써 저사양 기기에서도 대형 모델 구동이 가능해졌다.

  6. 오픈소스확산 지수 48

    텐센트, 음성 편집 모델 'AuK' 오픈소스 공개: 텍스트 고치듯 음성 수정

    텐센트가 1.5B 규모의 음성 생성 및 편집 기반 모델 'AuK'를 오픈소스로 공개했습니다. 자연어 명령어만으로 제로샷 음성 복제가 가능하며, 글을 고치듯 음성 속 단어를 자연스럽게 삽입·삭제하거나 감정과 음색을 전환할 수 있습니다. 현재 온라인 데모와 소비자용 GPU 로컬 실행을 지원합니다.

  7. 업계 동향확산 지수 34

    리비안, R1 전 라인업에 AI 기반 'RivianOS 2' OTA 배포

    리비안이 2026.31 OTA 업데이트를 통해 모든 R1 모델에 RivianOS 2 배포를 시작했다. R1과 R2의 소프트웨어 스택을 일원화해 재설계된 UI와 언리얼 엔진 기반 시각화, 통합 AI 플랫폼 및 세부 개인정보 제어 기능을 제공한다.

  8. 오픈소스확산 지수 55

    퍼플렉시티, 0.6B 크기의 온디바이스 개인정보 탐지 모델 'PII-Tracer' 공개

    퍼플렉시티가 다중 턴 대화용 개인정보 검출 벤치마크 PII-TRACE와 0.6B 소형 로컬 모델 PII-Tracer를 공개했다. Qwen3 기반의 양방향 인코더로 설계되어 맥의 하이브리드 추론 환경에서 민감 정보를 클라우드 전송 전 선별 차단한다. 특히 반복 언급되는 식별 정보 탐지에서 높은 정확도를 기록했다.

  9. 오픈소스확산 지수 48

    구글, 'TimesFM 3.0' 공개…1GB VRAM으로 다변량 시계열 예측 지원

    구글 리서치가 3세대 시계열 파운데이션 모델 'TimesFM 3.0'을 공개했다. 이번 버전은 최초로 다변량 예측을 기본 지원해 여러 관련 추세와 미래 이벤트를 함께 분석하며, 파인튜닝 없이 1GB VRAM 환경에서도 단일 순전파로 전체 구간을 예측한다. 비상업적 라이선스로 제공된다.

  10. AI 도구확산 지수 38

    엔비디아, DLSS 4.5 레이 재구성 공개: 2세대 트랜스포머 탑재

    엔비디아가 2세대 트랜스포머 모델을 도입한 DLSS 4.5 레이 재구성을 발표했다. 노이즈 제거와 초해상도를 단일 모델로 통합해 광선 추적 화질을 개선하고 잔상을 줄였으며, 현재 엔비디아 앱을 통해 30개 타이틀에 우선 적용됐다. 이용하려면 580.88 이상 버전의 드라이버가 필요하다.