LA 시내버스에 AI 카메라 장착, 전용차로 불법주차 잡는다
LA 카운티 대중교통국(LA Metro)이 버스전용차로와 정류장에 불법 주차한 차량을 단속하기 위해 시내버스에 AI 카메라를 설치한다. 적발된 영상은 교통국 직원의 직접 검토를 거쳐 과태료가 부과된다. 올여름 시범 테스트를 시작해 연말 정식 도입할 계획이다.
온디바이스 AI
최신 소식 보기
센스타임, '센스노바 5.0' 발표…20만 컨텍스트와 온디바이스 AI 강화
센스타임은 대형 모델 '센스노바 5.0'과 온디바이스 제품군을 발표했다. 10TB 이상의 토큰으로 학습되어 약 20만 토큰의 컨텍스트를 지원하며, 멀티모달 벤치마크 MMBench에서 1위를 기록했다. 플래그십 기기에서 초당 78.3단어를 생성하는 온디바이스 모델도 함께 선보였다.
마이크로소프트, 38억 파라미터 소형 AI 모델 'Phi-3 Mini' 출시
마이크로소프트가 경량 AI 모델 'Phi-3 Mini'를 공개했다. 38억 개 파라미터를 갖춘 이 모델은 합성 동화 데이터셋으로 학습되어 GPT-3.5 수준의 성능을 목표로 한다. 스마트폰과 노트북 같은 기기에서 구동하기 적합하며, 현재 Azure, Hugging Face, Ollama에서 사용할 수 있다.
애플, 프랑스 온디바이스 AI 스타트업 '데이터카랩' 인수설
외신에 따르면 애플이 지난해 12월 프랑스의 온디바이스 AI 및 컴퓨터 비전 스타트업 데이터카랩을 인수했다. 데이터카랩은 저전력 에지 AI 압축 기술과 프라이버시 중심 비전 알고리즘 특허를 보유하고 있다. 이번 인수는 iOS 18의 온디바이스 AI 기능과 비전 프로 고도화를 겨냥한 움직임으로 풀이된다.
IOC, '올림픽 AI 아젠다' 발표: 0.1초 만에 다이빙 동작 분석해 심판 돕는다
국제올림픽위원회(IOC)가 스포츠 전반에 AI를 도입하는 '올림픽 AI 아젠다'를 발표했다. 0.1초 만에 다이빙 회전 각도를 분석해 판정을 돕는 기술과 스마트폰 촬영으로 유망주를 발굴하는 프로젝트 등이 공개됐으며, 2024 파리 올림픽부터 순차 적용될 예정이다.
메타, 오픈형 LLM '라마 3' 공개…8B·70B 두 가지 크기 제공
메타가 차세대 오픈형 LLM '라마 3'를 공식 출시했다. 8B와 70B 두 가지 크기로 기본 및 인스트럭트 모델을 제공하며, 15조 개 이상의 토큰으로 사전 학습됐다. 8B 모델은 소비자용 GPU에서도 구동과 미세조정이 가능하다. 오픈소스 생태계의 성능 기준을 한 단계 끌어올렸다는 평가다.
엔비디아, 메타 '라마 3' 전 플랫폼 추론 최적화 지원
엔비디아가 메타의 최신 대규모 언어 모델 '라마 3'를 지원하기 위해 전 플랫폼 추론 최적화를 발표했다. H200 GPU 한 장으로 70B 모델 구동 시 초당 약 3,000토큰을 생성해 300명의 동시 사용자를 처리하며, 8B 모델은 RTX PC와 젯슨 오린 등 엣지 기기까지 지원된다.
애플 차세대 iOS 18, 초기 AI 기능 완전 온디바이스로 구동 전망
외신에 따르면 애플이 iOS 18에 탑재할 초기 AI 기능은 클라우드 연결 없이 기기 내부에서 작동할 전망입니다. 메시지와 사파리, 시리의 텍스트 분석 및 생성 기능이 오프라인으로 제공되어 보안을 지킵니다. 세부 계획은 6월 10일 열리는 WWDC에서 공개됩니다.
페인트탄과 최루액 쏘는 가정용 AI 보안 카메라 ‘PaintCam Eve’ 등장
슬로베니아 기업 PaintCam이 침입자에게 페인트탄이나 최루가스를 발사해 격퇴하는 스마트 보안 카메라 ‘Eve’를 공개했다. 컴퓨터 비전으로 사람과 동물을 식별해 경고 후 직접 발사하지만, 오작동으로 인한 인명 피해 위험과 법적 책임 논란이 일고 있다.
허깅페이스, 8B 오픈 멀티모달 모델 '아이데픽스2' 공개
허깅페이스가 아파치 2.0 라이선스의 8B 오픈 비전-언어 모델 Idefics2를 공개했습니다. 원본 해상도 이미지를 그대로 처리하며 OCR과 문서 질의응답 성능을 대폭 강화해, 30B급 대형 모델에 맞먹는 벤치마크 결과를 보여줍니다.
구글, 코드 특화 오픈 모델 ‘코드젬마’ 공개…2B·7B 3종 구성
구글이 허깅페이스와 협력해 코드 특화 대형언어모델 '코드젬마(CodeGemma)'를 공개했다. 젬마 체크포인트에 5000억 토큰을 추가 학습시켰으며, 코드 완성에 특화된 2B 모델과 7B 베이스 및 대화형 모델로 구성된다. 2B 모델은 약 6GB 메모리로 온디바이스 환경에서 구동할 수 있다.
애플, 비전 프로 기업 시장 공략 가속: MS 코파일럿 및 엔비디아와 협력
Apple은 Apple Vision Pro의 기업용 활용 사례를 공개했습니다. M2 뉴럴 엔진 기반의 머신러닝 성능을 활용해 마이크로소프트 코파일럿과의 공간 업무를 지원하고, 엔비디아 옴니버스를 통한 실시간 3D 디지털 트윈 설계 및 교육 솔루션을 선보였습니다.
Stability AI, 다국어 오픈소스 모델 'Stable LM 2 12B' 공개
Stability AI가 2조 개 토큰으로 사전학습된 'Stable LM 2 12B' 기본 및 지시어 튜닝 모델을 출시했다. 영어, 독일어, 프랑스어 등 7개 언어를 지원하며 도구 사용과 RAG 구축에 최적화됐다. 기존 1.6B 모델도 대화와 함수 호출 기능이 개선됐으며, 비상업적 이용은 무료다.
오페라 원, 브라우저에 로컬 LLM 내장…'라마·젬마' 등 150종 지원
오페라가 '오페라 원' 개발자 버전에 150여 종의 로컬 LLM을 내장 지원한다고 발표했다. 메타의 라마, 구글 젬마 등을 기기에 직접 다운로드(2~10GB)해 서버 전송 없이 오프라인 환경에서 AI를 실행할 수 있다. 현재 개발자 채널 사용자에게 우선 제공된다.
애플, 화면 읽는 AI 'ReALM' 공개: 가벼운 텍스트 변환으로 GPT-4 제쳤다
Apple 연구팀이 화면 정보를 텍스트로 인코딩해 맥락을 파악하는 경량 AI 모델 'ReALM'을 공개했습니다. 무거운 비전 모델 없이도 화면 및 백그라운드 작업을 정밀하게 이해하며, 일부 영역에서는 GPT-4보다 뛰어난 성능을 보였습니다. 향후 온디바이스 Siri의 화면 기반 작업 수행 능력이 대폭 향상될 전망입니다.
올라 일렉트릭, 자율주행 전기 스쿠터 '올라 솔로' 시제품 기술 예고
올라 일렉트릭 CEO가 자율주행 전기 스쿠터 '올라 솔로' 영상을 공개했습니다. 만우절 장난이 섞인 공개였으나, 실제 이륜차 자율주행 및 셀프 밸런싱 프로토타입 기술을 개발 중이며 향후 출시될 완성차에 도입할 예정이라고 밝혔습니다.
MS 코파일럿, PC 로컬 구동 준비 중…'40 TOPS' NPU 요구된다
인텔에 따르면 마이크로소프트는 코파일럿의 일부 기능을 PC 로컬에서 직접 구동하도록 개발 중이다. 반응 속도와 개인정보 보호를 개선하려는 목적이지만, 차세대 AI PC 기준인 40 TOPS 이상의 NPU가 필요해 현재 시판 중인 PC로는 감당하기 어렵다.
애플, WWDC 2024 일정 확정…6월 10일 개막해 생성형 AI 승부수 띄운다
애플이 연례 세계 개발자 회의(WWDC 2024)를 6월 10일부터 14일까지 개최한다고 발표했다. 차기 iOS 18 공개와 함께 대대적인 생성형 AI 도입이 예상되며, 더 똑똑해진 시리(Siri)와 텍스트 요약 기능, Xcode의 AI 코드 보완 도구 등이 핵심 관전 포인트다.
스태빌리티 AI, 7B 모델 제친 경량 코딩 모델 ‘Stable Code Instruct 3B’ 공개
스태빌리티 AI가 인스트럭션 튜닝을 거친 경량 코딩 모델 'Stable Code Instruct 3B'를 공개했다. 30억 파라미터 크기임에도 코드 완성 및 생성 평가에서 70억 규모의 CodeLlama 7B Instruct를 앞선다. 가중치는 허깅페이스에 공개되었으며 비상업적 용도로 무료 제공된다.
마이크로소프트, 첫 기업용 AI PC 발표…전용 코파일럿 키 탑재
마이크로소프트가 기업 전용 첫 AI PC인 서피스 프로 10과 서피스 랩톱 6을 공개했다. 인텔 코어 울트라 프로세서와 전용 NPU를 탑재했으며, 키보드에 코파일럿 전용 키를 기본 장착했다. 윈도 스튜디오 효과 등 AI 기능을 지원하며 4월부터 판매된다.