AMD·세레브라스 맞손: 분리형 AI 추론으로 전력 효율 최대 5배 향상
AMD와 세레브라스는 분리형 AI 추론 솔루션을 발표했다. AMD 헬리오스가 프롬프트 연산을 처리하고 세레브라스 웨이퍼 스케일 엔진이 초저지연 토큰 생성을 전담해 전력당 토큰 처리량을 최대 5배 끌어올린다. 실시간 에이전트 워크로드를 겨냥하며 2026년 하반기 세레브라스 클라우드에서 제공된다.
Cerebras Systems
메이요 클리닉, MS 리서치·세레브라스와 의료용 파운데이션 모델 개발 협력
메이요 클리닉이 마이크로소프트 리서치 및 세레브라스 시스템즈와 각각 협력해 의료용 생성형 AI 파운데이션 모델을 개발한다고 발표했다. 흉부 X선 판독 보고서를 자동 생성하는 멀티모달 모델과 엑솜 데이터를 분석해 류마티스 관절염 등의 맞춤 치료를 돕는 게놈 모델을 구축해 진단과 처방을 단축할 계획이다.
세레브라스, 세계 최고속 AI 추론 출시…Llama 3.1 초당 1800토큰 기록
세레브라스 시스템즈가 초고속 AI 추론 서비스인 '세레브라스 인퍼런스'를 공개했다. Llama 3.1 8B 모델 기준 초당 1800토큰을 출력해 기존 GPU 클라우드 대비 20배 빠르며 16비트 정밀도를 온전히 유지한다. 가격은 8B 기준 100만 토큰당 10센트부터 시작해 다단계 AI 에이전트의 실시간 반응성을 획기적으로 개선한다.