본문으로 건너뛰기
IFAI

온디바이스 AI

업계 태그소식 622개

  1. 오픈소스확산 지수 59

    Open CoDesign: 로컬에서 실행하는 오픈소스 AI 디자인 툴

    Open CoDesign은 Claude Design과 Figma AI를 대체할 수 있는 로컬 퍼스트 오픈소스 데스크톱 앱입니다. Claude, GPT 또는 로컬 Ollama 모델을 직접 연동해 프롬프트와 참고 자료만으로 대화형 UI 프로토타입과 슬라이드를 자동 생성하고 파일로 내보낼 수 있습니다.

  2. 오픈소스확산 지수 48

    오픈소스 RotorQuant 공개: 구글 제치고 KV 캐시 10배 압축

    오픈소스 KV 캐시 압축 알고리즘 RotorQuant가 공개됐다. 클리포드 회전자를 활용해 구글 TurboQuant 대비 연산량을 크게 줄였으며, 10배 압축을 유지한 채 프리필 속도는 5.3배, 디코딩 속도는 28% 개선했다. 거대 언어 모델의 초장문 컨텍스트를 단일 GPU에서 구동할 수 있는 길을 열었다.

  3. 오픈소스확산 지수 48

    ACE-Step 1.5 XL 공개: 4B DiT로 PC에서 1분 만에 보컬 곡 생성

    ACE Music이 오픈소스 음악 생성 모델 ACE-Step 1.5 XL을 공개했다. DiT 디코더를 4B로 확장해 프롬프트와 가사 입력만으로 보컬이 포함된 완곡을 1분 내에 로컬 PC에서 생성한다. 터보 증류 모델은 8스텝 만에 구동되어 상용 툴 수준에 다가섰지만, 최소 12GB의 VRAM이 필요하다.

  4. AI 도구확산 지수 40

    팩토리, 멀티 에이전트 구동하는 네이티브 데스크톱 앱 출시

    팩토리(Factory.ai)가 macOS 및 윈도우용 네이티브 데스크톱 앱을 출시했다. 여러 드로이드(Droid) 에이전트를 개별 컨텍스트로 동시 실행할 수 있으며, VS Code와 브라우저 직접 제어는 물론 Ollama·vLLM 기반의 완전 로컬 모델 구동도 지원한다. CLI와 데스크톱을 병행한 이용자의 작업량은 CLI 단독 사용 대비 4.6배 높았다.

  5. AI 도구확산 지수 41

    구글, 오프라인 지원 AI 음성 전사 앱 'Eloquent' iOS 조용히 출시

    월요일, 구글이 iOS용 오프라인 AI 음성 전사 앱 '구글 AI 엣지 엘로퀀트'를 출시했다. 기기 내 젬마 모델을 통해 실시간으로 음성을 텍스트로 바꾸며, '음', '어' 같은 군말을 자동 삭제하고 개조식이나 격식체로 다듬어 준다. 제미나이 기반 클라우드 정제 모드도 선택 지원한다.

  6. 오픈소스확산 지수 48

    Ai2, 초경량 3D 객체 감지 모델 ‘WildDet3D’ 오픈소스 공개

    Ai2는 단일 2D 사진이나 영상만으로 물체의 실제 3D 크기, 거리, 방향을 추정하는 ‘WildDet3D’를 오픈소스로 공개했다. 텍스트 프롬프트나 터치 한 번으로 물체를 지정할 수 있으며, 아이폰에서도 실시간 AR 오버레이로 구동된다. 모델 가중치와 370만 개 주석 데이터셋이 모두 무료로 제공된다.

  7. 오픈소스확산 지수 46

    오픈소스 AI 메모리 시스템 MemPalace: LongMemEval서 사상 첫 만점 기록

    벤 시그먼과 배우 밀라 요보비치가 AI 메모리 시스템 MemPalace를 오픈소스로 공개했다. 로컬에서 '기억의 궁전' 구조로 대화를 구성하며, LongMemEval 벤치마크 500개 문항을 모두 맞혀 사상 첫 만점을 기록했다. AAAK 압축 기술로 전체 맥락을 약 120토큰에 압축하며 클라우드나 구독이 필요 없다.

  8. 오픈소스확산 지수 58

    구글, 오픈 모델 '젬마 4' 공개: 아파치 2.0 적용·최대 256K 지원

    구글이 아파치 2.0 라이선스를 적용한 오픈 모델 '젬마 4(Gemma 4)' 제품군을 발표했다. 온디바이스용 E2B·E4B부터 26B MoE, 31B Dense까지 4종으로 구성되며 최대 256K 컨텍스트를 지원한다. Arena AI 평가에서 26B 모델이 20배 큰 모델을 넘어서는 등 고성능 에이전트 구축을 돕는다.

  9. 이미지·영상 생성확산 지수 41

    바이트댄스, 스마트폰서 오프라인 작동하는 이미지 생성 모델 '드림라이트' 공개

    바이트댄스가 3억 9천만 파라미터 규모의 온디바이스 이미지 모델 'DreamLite'를 발표했습니다. 스마트폰에서 완전 오프라인으로 1024×1024 이미지를 약 3초 만에 생성하며, 화풍 변경과 개체 제거 등 이미지 편집도 지원합니다. 대형 클라우드 모델 대비 디테일 한계는 있지만 모바일 기기에서의 로컬 AI 편집 가능성을 크게 넓혔습니다.

  10. 업계 동향확산 지수 35

    인스타카트, 엔비디아 칩 탑재 '피지컬 AI' 스마트 카트 공개

    인스타카트가 엔비디아 젯슨을 내장한 스마트 쇼핑 카트 '케이퍼 카트(Caper Cart)'를 통해 피지컬 AI 전략을 공개했습니다. 카트 내 카메라와 저울 센서로 매장 데이터를 실시간 온디바이스 처리해 장바구니 추천을 제공하며, 소매업체들의 객단가를 두 자릿수 끌어올리고 있습니다.

  11. 오픈소스확산 지수 48

    3초 오디오로 음성 복제하는 LuxTTS: 1GB VRAM으로 48kHz 150배속 생성

    3초 분량의 오디오만으로 음성을 복제하는 오픈소스 모델 LuxTTS가 공개되었습니다. 1GB 미만의 VRAM으로 작동하며 추론을 4단계로 줄여 GPU에서 실시간 대비 150배 속도를 냅니다. 대부분의 기존 모델과 달리 48kHz 고음질 출력을 지원해 저사양 PC나 CPU 환경에서도 선명한 음성을 뽑아낼 수 있습니다.

  12. 로봇확산 지수 39

    메타 출신이 만든 메모리즈 AI, 엔비디아와 손잡고 로봇 '시각 기억층' 구축

    메타 엔지니어 출신들이 창업한 메모리즈 AI가 엔비디아와 파트너십을 맺고 웨어러블과 로봇을 위한 '시각 기억층'을 구축한다고 발표했다. 엔비디아의 코스모스-리즌 2 등을 활용해 기기가 촬영한 1인칭 영상을 검색·회상할 수 있게 함으로써, 기존 텍스트 중심 AI 메모리의 한계를 물리적 영역에서 보완한다는 구상이다.

  13. AI 도구확산 지수 41

    엔비디아, 오픈클로 전용 '니모클로' 발표: 명령어 한 줄로 안전한 로컬 에이전트 구동

    엔비디아가 GTC에서 오픈클로(OpenClaw) 플랫폼을 위한 '니모클로(NemoClaw)' 스택을 발표했다. 명령어 한 줄로 네모트론 모델과 오픈쉘 격리 샌드박스를 설치해 RTX PC나 DGX 장비에서 24시간 에이전트를 안전하게 구동할 수 있으며, 프라이버시 라우터로 클라우드 최신 모델과도 안전하게 연동된다.