미스트랄 AI, 자체 AI 인프라 플랫폼 'Mistral Compute' 출시
미스트랄 AI가 AI 인프라 플랫폼 'Mistral Compute'를 공개했다. 베어메탈 서버부터 관리형 PaaS까지 GPU, 오케스트레이션, API를 통합 제공하며, 미국과 중국 클라우드에 의존하지 않는 독립적 데이터 주권을 강조한다.
미스트랄 AI가 AI 인프라 플랫폼 'Mistral Compute'를 공개했다. 베어메탈 서버부터 관리형 PaaS까지 GPU, 오케스트레이션, API를 통합 제공하며, 미국과 중국 클라우드에 의존하지 않는 독립적 데이터 주권을 강조한다.
독일 번역 스타트업 딥엘이 수요일 엔비디아 B200 기반 DGX 슈퍼팟을 도입했다고 밝혔다. 이를 통해 인터넷 전체를 번역하는 기간을 기존 194일에서 18일로 대폭 단축했다. 딥엘은 확보한 연산력을 바탕으로 차세대 모델 개발과 문맥 반영 번역 도구인 Clarify 개선에 집중한다.
시스코가 이번 주 시스코 라이브에서 AI 워크로드 수요에 대응하기 위해 스위치, 라우터, 관리 소프트웨어를 아우르는 네트워크 제품군을 대거 업그레이드했습니다. AI 어시스턴트가 내장된 통합 넥서스 대시보드와 400G 광 모듈, 실리콘원 기반 캠퍼스 스위치를 앞세워 엔터프라이즈 AI 인프라 확장을 지원합니다.
퀄컴이 AWE USA에서 전작 대비 크기를 26% 줄인 스냅드래곤 AR1+ Gen 1 칩을 공개했다. 현장에서는 RayNeo X3 Pro 안경으로 스마트폰이나 클라우드 연결 없이 Llama 1B 모델을 기기 자체에서 구동하는 시연을 선보였다. 스마트안경이 스마트폰 액세서리를 넘어 독립 기기로 진화하고 있다.
스탠퍼드 연구진이 대규모 배치와 합성 데이터 생성 등 고처리량 작업에 특화된 오픈소스 추론 엔진 Tokasaurus를 공개했다. CPU 오버헤드 최소화와 공유 프리픽스 동적 탐색, 비 NVLink 환경 파이프라인 병렬 최적화를 통해 vLLM 및 SGLang 대비 최대 3배 이상 높은 처리량을 제공한다.
AI 코딩 도구 윈드서프는 앤트로픽으로부터 5일도 안 되는 사전 통보와 함께 클로드 3.x 직접 접근 권한을 차단당했다고 밝혔다. 앤트로픽 공동창업자 재러드 카플란은 오픈AI의 30억 달러 인수설 속에서 경쟁사에 클로드를 파는 것은 어색하다고 설명했다. 윈드서프는 서드파티 추론 공급업체로 긴급 전환했다.
VentureBeat에 따르면 AI 전화 고객센터 기업 Phonely가 Maitai 및 칩 제조사 Groq과 협력해 무지연 LoRA 전환 기술로 음성 AI 지연 시간을 대폭 줄였습니다. 첫 토큰 응답 속도를 176밀리초까지 낮추고 정확도를 99.2%로 끌어올렸으며, 통화자의 70% 이상이 사람과 구분하지 못해 이번 달에만 상담원 350명을 대체한 고객사도 나왔습니다.
AMD가 광자 칩 개발 스타트업 에노세미(Enosemi)를 인수했다고 발표했다. 인수 금액은 비공개다. AMD는 에노세미의 기술을 바탕으로 광트랜시버를 스위치 칩에 직접 통합하는 CPO(공동 패키징 광학) 기술 개발을 본격화해 대규모 AI 클러스터의 전력 효율과 전송 지연을 크게 개선할 계획이다.
OpenAI가 아부다비의 G42와 손잡고 '스타게이트 UAE' 프로젝트를 발표하며, 모든 UAE 시민과 거주자에게 월 20달러 상당의 ChatGPT Plus를 무료 제공하기로 했다. 전 국민 대상 지원은 세계 최초로, 아부다비에 5기가와트 규모의 AI 슈퍼컴퓨팅 캠퍼스를 짓고 내년에 첫 데이터센터를 가동할 예정이다.
오픈AI가 G42, 엔비디아, 오라클 등과 협력해 첫 글로벌 AI 인프라 사업인 '스타게이트 UAE'를 발표했다. 아부다비에 1GW 규모의 컴퓨팅 클러스터를 구축해 2026년 200MW를 가동할 예정이며, 아랍에미리트 전역에 챗GPT를 도입한다.
마이크로소프트가 연례 개발자 회의 '빌드'에서 xAI의 '그록 3'와 '그록 3 미니'를 애저 AI 파운드리에 도입한다고 발표했다. 마이크로소프트가 직접 호스팅과 결제를 담당하며 엔터프라이즈 SLA를 보장한다. 오픈AI와의 미묘한 긴장 관계 속에서도 타사 인기 모델 유치에 속도를 내는 모습이다.
젠슨 황 엔비디아 CEO는 COMPUTEX 2025 기조연설에서 AI 데이터센터가 토큰을 생산하는 'AI 공장'으로 진화하며 수조 달러 규모의 거대 인프라 산업을 형성할 것이라고 밝혔다. 현장에서는 맞춤형 인터커넥트 NVLink Fusion, 개인용 슈퍼컴퓨터 DGX Spark, 로봇 물리 엔진 Newton 등도 함께 공개됐다.
엔비디아가 컴퓨텍스에서 싱글 칩 구성의 Grace CPU C1에 대한 폭스콘, 슈퍼마이크로 등 주요 파트너사의 광범위한 지원을 공개했다. 기존 CPU 대비 2배의 전력 효율을 내세워 엣지, 통신 AI-RAN, 스토리지 등 전력 제약이 심한 환경에 본격 도입되고 있다.
NVIDIA는 델, IBM, 넷앱 등 주요 스토리지 기업과 함께 'NVIDIA AI 데이터 플랫폼' 기반의 인프라 솔루션을 발표했다. GPU와 DPU를 스토리지 인근에 통합해 AI 에이전트가 방대한 기업 데이터를 실시간 검색하고 복잡한 추론을 빠르게 수행하도록 돕는다.
엔비디아가 맞춤형 칩을 자사 NVLink 생태계에 직접 결합할 수 있는 'NVLink 퓨전'을 공개했다. 퀄컴, 미디어텍, 마벨, 후지쯔 등이 파트너로 참여해 자체 CPU와 ASIC을 엔비디아 랙 시스템에 연결한다. 클라우드 기업들은 자체 칩을 버리지 않고도 엔비디아 인프라와 융합해 초대형 AI 공장을 꾸릴 수 있게 됐다.
ADA 스페이스와 저장랩이 2800기 규모의 우주 컴퓨팅 성좌를 구축하기 위해 첫 AI 위성 12기를 발사했습니다. 위성마다 744 TOPS의 연산 성능과 80억 파라미터 AI 모델, 100Gbps 레이저 링크를 탑재해 지상 전송 없이 궤도에서 직접 데이터를 실시간 처리합니다.
미 상무부는 발효 예정이던 바이든 행정부의 'AI 확산 규칙'을 공식 폐기했다. 전 세계 국가를 3등급으로 분류해 AI 칩 수출을 일괄 제한하려던 계획을 철회하고 개별 협상 방식으로 전환할 방침이다. 단, 화웨이 어센드 칩 사용에 대한 규정 위반 경고 등 기존 제재는 유지된다.
샘 알트만 OpenAI CEO와 AMD, MS 경영진이 미 상원 청문회에 출석했습니다. 알트만은 AI가 인터넷급 이상의 혁명이 될 것이라며 인프라와 전력 투자 확대를 촉구했습니다. 경영진들은 지나친 수출 통제가 글로벌 고객을 중국 기술로 몰아낼 수 있다고도 경고했습니다.
로컬 LLM 구동 툴 LM Studio가 0.3.15 버전으로 업데이트되며 CUDA 12.8을 공식 지원한다. CUDA 그래프 및 플래시 어텐션 커널을 적용해 RTX GPU에서의 추론 처리량을 최대 35% 끌어올렸으며, RTX 20 시리즈부터 최신 블랙웰 아키텍처까지 호환된다. 외부 도구 호출을 제어하는 tool_choice 매개변수도 추가되어 로컬 에이전트 구축이 더 수월해졌다.
보도에 따르면 애플이 일상 기능용과 완전한 AR 지원용 스마트 글래스 2종에 탑재할 맞춤형 칩을 개발 중이다. 애플워치 기술을 기반으로 다중 카메라를 지원하며 2026년 또는 2027년 양산이 예상된다. 아울러 사내 AI 서버와 에어팟용 칩 업그레이드도 함께 추진하고 있다.