Apple, 첫 2나노 'M6' 및 'M5 Ultra' 발표: 거대 AI 모델 온디바이스 구동 지원
Apple이 최초의 2나노 칩 M6와 쿼드 다이 구조의 M5 Ultra를 발표했습니다. M6는 듀얼 16코어 뉴럴 엔진을 장착했으며, M5 Ultra는 최대 512GB 통합 메모리와 1.2TB/s 대역폭을 통해 수천억 파라미터급 대형 AI 모델을 데스크톱에서 로컬로 직접 실행할 수 있습니다.
온디바이스 AI
최신 소식 보기
퍼플렉시티, 온디바이스 AI 에이전트 '컴퓨터' 공개: 로컬 실행으로 비용·보안 해결
퍼플렉시티가 기기 내에서 기본 실행되는 로컬 우선 AI 에이전트 프레임워크 'Computer'를 발표했다. 소형 로컬 모델에 맞춰 프레임워크를 최적화해 대화와 추론이 기기 안에서만 이뤄지며 API 비용이 들지 않는다. 클라우드 모델 호출이나 웹 검색은 사용자 승인 시에만 연결되며, 사내 벤치마크 평가에서 82.6%를 기록해 오픈소스 프레임워크를 앞섰다.
오픈소스 Mac 앱 'OpenHistory' 출시: 온디바이스 AI로 업무 일지 자동 생성
오픈소스 Mac 앱 'OpenHistory'가 공개됐다. 온디바이스 추론을 통해 하루 업무 활동을 자동으로 기록하고 시간별 및 일일 AI 요약을 생성한다. 모든 데이터는 로컬에 저장되며 보안 MCP를 통해 로컬 에이전트와도 연결할 수 있다.
Ornith-1.5 공개: 스스로 과제 만들어 훈련, 397B는 Opus 4.8과 대등
Ornith.ai가 오픈소스 AI 모델 제품군 Ornith-1.5를 선보였다. 모델 스스로 과제를 출제하고 평가 환경을 구축해 강화학습하는 자기 개선 루프를 구현했다. 플래그십 397B 모델은 코딩 벤치마크에서 Claude Opus 4.8과 대등한 점수를 기록했으며 9B 버전은 스마트폰 구동을 지원한다.
Audio8TS: 1.7GB 초소형 음성 합성 모델, 몇 초 샘플로 로컬 음성 복제
약 1억 개 파라미터 규모의 초경량 TTS 모델 Audio8TS가 공개됐다. 전체 용량이 1.7GB에 불과하며, 단 몇 초 분량의 샘플로 제로샷 음성 복제가 가능하다. ONNX INT8 양자화를 지원해 고사양 GPU 없이 일반 PC의 CPU에서도 로컬 음성 복제를 가볍게 실행할 수 있다.
블록, 데스크톱 에이전트 작업 공간 '버드' 오픈소스 공개
블록이 데스크톱 AI 에이전트 협업 환경인 '버드(Berd)'를 오픈소스로 공개했다. 버드는 대화와 파일, 스킬, 각기 다른 역할을 맡은 에이전트들을 지속 가능한 캔버스 프로젝트로 묶어 로컬 작업물과 연동한다. 단순 채팅을 넘어 다양한 모델을 전환하며 팀 단위로 작업을 실행할 수 있는 것이 특징이다.
구글 딥마인드 수어 번역 모델 SL2T 발표: 픽셀 11에서 수어로 입력
구글 딥마인드가 수어-텍스트 번역 모델 SL2T를 발표하고 픽셀 11의 Gboard 및 실시간 자막에 탑재했다. 50개 이상 수어의 10만 시간 넘는 데이터로 훈련되었으며, 단말에서 랜드마크를 추출해 미국 수어(ASL)를 영문으로 바로 변환해 메시지나 제미나이 질의를 지원한다.
언슬로스, 환경 설정 없이 모델 실행과 학습 지원하는 데스크톱 앱 출시
언슬로스(Unsloth)가 파이썬 환경 설정이나 터미널 명령어 없이 로컬에서 모델을 실행하고 파인튜닝할 수 있는 ‘Unsloth Desktop’을 공개했다. 맥, 윈도우, 리눅스를 지원하며 GGUF와 MLX 모델을 구동하고 훈련 속도를 2배 높이면서 VRAM 사용량을 70% 줄인다.
캑터스, 45M 초소형 모델 Needle 2 공개: 28MB 램으로 구동
캑터스가 4500만 파라미터의 초경량 온디바이스 모델 Needle 2를 공개했습니다. 바이너리 크기는 14MB에 불과하며 GPU 없이 약 28MB의 램만으로 구동됩니다. 라즈베리 파이 5나 보급형 스마트폰 등 소형 기기에서 오프라인 도구 호출을 빠르게 처리합니다.
메타, 20GB 이하로 압축되는 30B 로컬 에이전트 모델 '뮤즈 글리머' 오픈소스 공개
메타가 300억 파라미터 규모의 로컬 에이전트 모델 '뮤즈 글리머'를 아파치 2.0 라이선스로 오픈소스 공개했다. 4비트 양자화 시 20GB 미만으로 줄어들어 소비자용 단일 GPU나 맥에서도 도구 호출과 멀티모달 작업을 수행한다. 인터넷 연결 없이도 안전하게 상시 에이전트를 구동할 수 있다.
텐센트, 멀티 에이전트 AI 어시스턴트 플랫폼 'Octop' 오픈소스 공개
텐센트가 로컬 환경에서 구동되는 오픈소스 AI 어시스턴트 플랫폼 'Octop'을 공개했다. 단일 프로세스로 웹 대시보드와 자동화 작업을 실행하며, 위챗·디스코드 등 메신저와 연동해 여러 전문 에이전트를 협업시킬 수 있다. 모든 대화와 기억 데이터는 로컬에 안전하게 보관된다.
NVIDIA, 자율주행 추론 모델 '알파마요 2 슈퍼' 상용 라이선스 전면 개방
NVIDIA가 자율주행 오픈 추론 모델 'Alpamayo 2 Super'를 상용 이용이 가능한 OpenMDW-1.1 라이선스로 공개했다. Cosmos 3 기반으로 개발되어 LingoQA 벤치마크에서 GPT-4o를 23.2점 앞섰으며, 360도 전방위 영상을 분석해 경로 계획과 인과 추론 경로를 생성해 자동차 제조사의 클라우드 개발과 자동 라벨링을 지원한다.
CrisperWhisper 2.0 오픈소스 공개: 말더듬 보존과 텍스트 정제 모드 지원
nyra labs가 음성 텍스트 변환 모델 CrisperWhisper 2.0을 공개했다. 말더듬과 웃음소리까지 기록하는 축어 모드와 정제된 텍스트를 출력하는 의도 모드를 선택할 수 있다. 단어 정렬 오차는 30ms 수준이며, 최소 2억 파라미터 모델은 GPU 없이도 바로 실행된다.
스마트폰에서 리눅스 돌리는 AI 에이전트, OpenMinis 오픈소스 공개
모바일용 AI 에이전트 OpenMinis가 오픈소스로 공개됐다. iOS와 안드로이드 기기 내에 알파인 리눅스 샌드박스를 탑재해 브라우저 자동화와 스크립트 실행을 지원한다. 사용자의 Claude나 GPT API 키를 연동해 건강, 캘린더, 미리 알림 등 기기 기능을 직접 제어할 수 있다.
3B 에이전트 모델 'Nanbeige 4.2' 공개, 루프 구조로 9B 뛰어넘어
30억 파라미터 규모의 에이전트 특화 모델 'Nanbeige 4.2'가 공개됐다. 신경망 레이어를 재사용하는 루프형 트랜스포머 구조를 도입해 8GB 용량으로 일반 소비자용 GPU에서 실행 가능하다. 다수 에이전트 벤치마크에서 3배 규모인 Qwen 3.5 9B를 능가했다.
앤드루 응, Mac용 오픈소스 AI 에이전트 OpenWorker 공개
앤드루 응과 로힛 프라사드가 오픈소스 에이전트 OpenWorker를 발표했다. 단순 챗봇을 넘어 보고서 초안 작성, 슬랙 메시지 발송, 일정 갱신 등 완성된 업무 결과물을 직접 산출한다. 자체 API 키를 연결하거나 Ollama로 로컬 구동할 수 있으며, 중요한 작업 전에는 사용자 확인을 거친다.
테슬라, 로보택시 플로리다 진출…올랜도·탬파로 서비스 확대
테슬라가 로보택시 서비스를 플로리다주 올랜도와 탬파로 확장한다고 밝히며 서비스 구역 지도를 공개했다. 하지만 구체적인 운행 차량 수나 즉시 호출 가능 여부는 공개하지 않았다. 기존 지역의 무인 차량이 20여 대에 그쳐 실제 운행 규모에 대한 의문이 남는다.
ABot-World: RTX 5090 한 장으로 구동하는 무한 상호작용 세계
ABot-World는 사용자 조작에 실시간으로 반응하며 무한히 확장되는 가상 세계를 생성하는 오픈소스 시뮬레이터입니다. 단일 데스크톱 RTX 5090 환경에서 720p 해상도, 16 FPS, 1.2초 지연 시간으로 동작하며, 코드와 모델 가중치 전체가 Apache 2.0 라이선스로 공개되었습니다.
MS, 오픈소스 이미지 생성·편집 모델 'Mage Flow' 공개…1초 미만 초고속 생성
마이크로소프트는 텍스트 이미지 생성과 지시 기반 편집을 동시 지원하는 오픈소스 모델 'Mage Flow'를 공개했다. 40억 매개변수 구조로 다국어 텍스트 렌더링과 포즈·윤곽선 제어 기능을 기본 내장했으며, 4단계 Turbo 버전은 1024px 이미지를 0.6초 이내에 생성한다. 메인 모델 용량은 17.5GB로 중고급 GPU에서 직접 구동 가능하다.
Poolside, 코드 특화 MoE 'Laguna S 2.1' 공개: 8B 활성화로 거대 모델과 맞대결
Poolside가 코드 생성 AI 모델 Laguna S 2.1을 공개했다. 총 118B 매개변수 중 토큰당 8B만 활성화되는 MoE 구조로 1M 토큰 문맥을 지원한다. 사고 모드 가동 시 DeepSWE 점수가 40.4%까지 올라 거대 모델 수준의 성능을 발휘하며, 모델 가중치도 즉시 다운로드할 수 있다.