AMD, MI300 AI 칩 공개: H100 추론 성능 넘어서며 엔비디아에 도전장
AMD가 LLM 학습 및 추론을 위한 Instinct MI300X 가속기와 MI300A APU를 공개했다. Llama 2 추론에서 엔비디아 H100 대비 1.4배 빠른 성능을 앞세웠으며, 마이크로소프트와 메타가 도입을 확정했다. NPU를 탑재한 노트북용 라이젠 8040 시리즈도 함께 발표됐다.
온디바이스 AI
최신 소식 보기
애플, 맥 전용 오픈소스 머신러닝 프레임워크 'MLX' 기습 공개
애플 머신러닝 연구팀이 애플 실리콘에 최적화된 프레임워크 'MLX'와 'MLX Data'를 깃허브에 오픈소스로 공개했다. 파이토치와 잭스의 장점을 흡수하고 통합 메모리를 활용해 CPU와 GPU 간 데이터 이동 없이 연산하도록 설계됐다. 맥북에서도 라마(Llama)나 스테이블 디퓨전 같은 생성형 AI 모델을 가볍게 학습하고 구동할 수 있게 됐다.
맥도날드, 구글 클라우드와 맞손…수천 개 매장에 생성형 AI 도입
맥도날드가 구글 클라우드와 다년간의 글로벌 파트너십을 체결했다고 발표했다. 맥도날드는 전 세계 수천 개 매장에 Google Distributed Cloud 하드웨어 및 소프트웨어를 도입해 엣지 컴퓨팅과 생성형 AI를 결합하고, 모바일 앱과 키오스크 환경을 개선할 계획이다. 매장 업그레이드는 내년부터 순차적으로 적용된다.
MS, 소형 언어 모델 '오르카 2' 공개…10배 큰 모델 수준 추론 성능
Microsoft가 소형 언어 모델 '오르카 2'의 가중치를 공개했다. 대형 모델을 단순 모방하는 대신 작업에 맞춰 단계별 추론 등 최적의 전략을 선택하도록 훈련해, 복잡한 제로샷 추론 평가에서 5~10배 큰 모델에 맞먹는 성과를 냈다.
삼성, 자체 생성형 AI 모델 '가우스' 공개…온디바이스 AI 정조준
삼성전자가 자체 생성형 AI 모델 '삼성 가우스'를 공개했다. 삼성리서치가 개발한 이 모델은 문서 요약과 번역을 돕는 언어, 코딩 어시스턴트 코드, 이미지 생성 및 편집을 지원하는 이미지 모델로 나뉜다. 클라우드 연결 없이 기기 자체에서 돌아가는 온디바이스 AI를 지향하며, 내년 출시될 갤럭시 S24 시리즈 탑재가 유력하다.
테슬라, 신규 AI '그록' 차량 탑재 추진…자체 연산으로 로컬 구동
외신에 따르면 테슬라가 xAI의 신규 AI 비서 그록(Grok)을 차량에 통합할 계획이다. 차량 내 컴퓨터를 활용해 경량화된 양자화 모델을 로컬에서 네이티브로 실행하는 방식이며, 머스크는 유휴 차량을 활용한 대규모 분산 추론 구상도 내비쳤다. 구체적인 출시 일정은 아직 공개되지 않았다.
우버 앱에서 웨이모 무인차 탄다…피닉스서 서비스 시작
웨이모와 우버는 미국 피닉스에서 무인 자율주행 택시 호출 서비스를 공식 출시했다. 이용자가 UberX나 Uber Comfort를 부르면 웨이모 무인차가 매칭될 수 있다. 경쟁사 크루즈가 운행 정지 처분을 받은 사이, 웨이모는 우버 플랫폼을 타고 상용화를 가속화하고 있다.
레노버, 하이브리드 AI 전략 공개: 엔비디아와 협력해 PC로 LLM 가져온다
레노버가 TechWorld 2023에서 공용 모델과 기업용 프라이빗 모델, 개인용 온디바이스 모델을 아우르는 하이브리드 AI 전략을 발표했다. 엔비디아와의 파트너십을 확대해 AI 워크스테이션을 최적화하는 한편, 모델 압축 기술을 통해 대형 언어 모델을 개인 PC에서도 구동할 수 있도록 지원할 계획이다.
퀄컴 '스냅드래곤 8 3세대' 전체 사양 유출: 온디바이스 생성형 AI 정조준
MSPoweruser를 통해 퀄컴 스냅드래곤 8 3세대의 내부 사양 문서가 유출되었다. 생성형 AI 구동에 초점을 맞춘 첫 플래그십 모바일 플랫폼으로, INT4 정밀도를 지원하는 헥사곤 NPU와 언리얼 엔진 5.2 레이 트레이싱을 탑재했다. 차세대 안드로이드 플래그십의 온디바이스 AI 경쟁을 촉발할 핵심 부품이다.
구글 크롬, 탭 자동 재정렬 및 그룹화 기능 개발 중
구글 크롬이 열려 있는 탭을 스마트하게 재정렬하고 자동으로 그룹을 묶어 주는 'Organize Tabs' 기능을 개발 중인 것으로 전해졌습니다. 브라우저 좌측 상단 탭 검색 옆에 배치될 예정입니다.
스태빌리티 AI, 기기 내 구동 가능한 3B 모델 '스테이블 LM 3B' 공개
스태빌리티 AI가 노트북과 휴대용 기기에서 작동하도록 설계된 30억 파라미터 언어 모델 'Stable LM 3B'를 공개했다. 적은 자원으로 구동되면서도 기존 3B 모델은 물론 일부 오픈소스 7B 모델보다 뛰어난 상식 추론 성능을 보인다. CC-By-SA 4.0 라이선스로 배포되었으며 현재 기본 모델을 직접 미세조정해 쓸 수 있다.
구글, 크롬북 플러스 발표: 399달러부터 시작하는 OS 내장형 AI 노트북
구글이 에이서, HP 등과 손잡고 새 하드웨어 규격인 크롬북 플러스를 선보였다. 399달러부터 시작하며, 모든 화상 통화 앱에서 작동하는 AI 배경 소음 제거와 조명 보정, 구글 포토 매직 이레이저를 OS 수준에서 기본 탑재했다. 고가 기기 전유물이던 온디바이스 AI 기능을 보급형 노트북까지 빠르게 확장한 셈이다.
팀 쿡, 애플도 '챗GPT' 스타일 생성형 AI 연구 중…채용 확대
팀 쿡 애플 CEO는 애플이 챗GPT와 유사한 생성형 AI 서비스를 연구 중이며, 영국 내 AI 인력 채용을 늘릴 계획이라고 밝혔다. 그는 낙상 감지와 아이폰 자동완성 등 기존 제품 전반에 이미 AI가 쓰이고 있음을 언급하며, 애플 역시 물밑에서 생성형 AI 대응에 속도를 내고 있음을 공식화했다.
수술실에서 3분 만에 암세포 분석: 인베니오, 엣지 AI 병리 시스템 개발
의료 스타트업 인베니오 이미징이 엔비디아와 협력해 수술실 현장에서 3분 만에 생검 조직을 분석하는 AI 시스템을 공개했다. 수주일씩 걸리던 병리 검사를 즉각 처리해 외과의가 수술 도중 암세포 유무를 신속하게 확인하고 결정을 내릴 수 있도록 돕는다.
애플, macOS 소노마 정식 배포: 온디바이스 트랜스포머 기반 자동 완성 도입
애플이 최신 맥 운영체제인 macOS Sonoma를 무료 업데이트로 정식 출시했다. 데스크톱 위젯과 비디오 회의 효과 외에도, 키보드 자동 수정 기능에 온디바이스 트랜스포머 언어 모델을 전면 도입해 텍스트 입력과 음성 받아쓰기 정확도를 대폭 끌어올린 점이 특징이다.
픽셀 8 영상 유출: 표정 합성부터 하늘 교체까지, 수동 모드도 추가
유출된 프로모션 영상에 따르면 Google 픽셀 8 시리즈에 강화된 AI 사진 편집 기능이 대거 탑재된다. 여러 장을 합성해 모두가 카메라를 보고 웃는 사진을 만들어주는 매직 에디터와 노을 하늘 교체 기능이 포함되며, 셔터 속도와 ISO를 직접 조절하는 DSLR 스타일 수동 모드도 지원한다.
MS, AI 협업 기능 품은 기업용 서피스 신제품 4종 공개
Microsoft가 기업용 서피스 신제품 4종을 발표했다. 서피스 랩톱 스튜디오 2와 서피스 허브 3 등을 포함하며, 하드웨어 성능 강화와 더불어 AI 기반 시선 교정, 자동 프레이밍 및 화이트보드 내 코파일럿 등 하이브리드 업무용 AI 기능을 대폭 도입했다.
MS, 9월 21일 서피스 신제품 발표 행사 개최 예고
마이크로소프트가 특별 이벤트를 열고 차세대 서피스 하드웨어와 AI 관련 소식을 발표할 예정입니다. 실시간 생중계는 진행되지 않으며 행사 종료 후 공식 녹화 영상이 공개됩니다.
서피스 이끌던 파노스 파나이 퇴사, MS는 AI 전환 가속화
10년 넘게 서피스를 이끌어 온 파노스 파나이가 마이크로소프트를 전격 퇴사했다. MS는 유수프 메디 등에게 역할을 분담하고 윈도우용 AI 웹 서비스 전담팀을 신설했다. 이는 윈도우와 디바이스 생태계의 무게중심을 순수 하드웨어에서 전면적인 AI 통합으로 전환하려는 움직임이다.
아이폰 15의 선택은 '직관적 AI': 챗봇 대신 일상의 편의 겨냥
Apple이 아이폰 15 발표에서 생성형 AI 열풍 대신 실생활에 녹아드는 머신러닝 기능에 집중했다. A17 Pro 칩을 바탕으로 통화 중 음성 분리, 자동 인물 심도 인식, 음성사서함 전사 등을 제공한다. 화려한 챗봇 대신 사용자의 불편을 조용히 해결하는 실용적 접근을 택했다는 평가다.