AMD, MI300 AI 칩 공개: H100 추론 성능 넘어서며 엔비디아에 도전장
AMD가 LLM 학습 및 추론을 위한 Instinct MI300X 가속기와 MI300A APU를 공개했다. Llama 2 추론에서 엔비디아 H100 대비 1.4배 빠른 성능을 앞세웠으며, 마이크로소프트와 메타가 도입을 확정했다. NPU를 탑재한 노트북용 라이젠 8040 시리즈도 함께 발표됐다.
AMD가 LLM 학습 및 추론을 위한 Instinct MI300X 가속기와 MI300A APU를 공개했다. Llama 2 추론에서 엔비디아 H100 대비 1.4배 빠른 성능을 앞세웠으며, 마이크로소프트와 메타가 도입을 확정했다. NPU를 탑재한 노트북용 라이젠 8040 시리즈도 함께 발표됐다.