애플의 온디바이스 LLM 최적화 비결: 플래시 메모리 활용해 RAM 한계 2배 돌파
애플이 논문 'LLM in a flash'를 통해 기기 메모리 한계를 넘어 대규모 언어모델을 구동하는 기술을 공개했다. 모델 파라미터를 플래시 메모리에 저장하고 필요할 때만 DRAM으로 불러와 가용 RAM의 2배 크기 모델을 실행하며, GPU 추론 속도를 최대 25배 높였다. 온디바이스 AI 상용화를 위한 핵심 기술이다.
Samsung
최신 소식 보기
삼성, 자체 생성형 AI 모델 '가우스' 공개…온디바이스 AI 정조준
삼성전자가 자체 생성형 AI 모델 '삼성 가우스'를 공개했다. 삼성리서치가 개발한 이 모델은 문서 요약과 번역을 돕는 언어, 코딩 어시스턴트 코드, 이미지 생성 및 편집을 지원하는 이미지 모델로 나뉜다. 클라우드 연결 없이 기기 자체에서 돌아가는 온디바이스 AI를 지향하며, 내년 출시될 갤럭시 S24 시리즈 탑재가 유력하다.
삼성전자, AI 맞춤형 레시피 앱 '삼성 푸드' 출시
삼성전자가 수요일 AI 기반의 맞춤형 푸드 서비스 '삼성 푸드'를 104개국에 출시했다. 16만 개 이상의 레시피를 기반으로 식재료 맞춤 추천과 식단 구성을 지원하며, 오븐 예열 등 삼성 가전 제어 기능도 갖췄다. 장보기부터 조리까지 전 과정을 AI로 잇겠다는 구상이다.
구글, AI 대화와 숏폼 영상 결합한 차세대 검색 '프로젝트 마기' 추진
외신에 따르면 구글은 '프로젝트 마기(Project Magi)'를 통해 기존의 '10개 파란 링크' 방식에서 벗어나 AI 챗봇과 숏폼 영상 콘텐츠를 검색에 통합할 계획이다. ChatGPT와 틱톡의 협공에 대응해 정답이 없는 생활형 질문을 겨냥하며, 미국 내 100만 명을 대상으로 우선 테스트를 시작한다.
삼성, 비스포크 AI 오븐 공개: 내부 카메라로 베이킹 라이브 방송까지
삼성이 CES 2023에서 내부 카메라를 탑재한 '비스포크 AI 월 오븐'을 발표했습니다. 80가지 요리를 스스로 인식해 조리 상태를 최적화하고 타기 전에 알림을 줄 뿐만 아니라, 조리 과정을 실시간으로 스트리밍할 수 있습니다. 7인치 컬러 화면을 탑재했으며 2023년 북미 출시 예정입니다.