AMD, 첫 소형 언어 모델 'AMD-135M' 공개: 투기적 디코딩으로 추론 가속
AMD가 첫 소형 언어 모델 시리즈인 AMD-135M을 공개했다. Llama 계열 기반의 기본형과 코딩 특화형으로 나뉘며, AMD Instinct MI250 노드에서 학습됐다. 대형 모델의 추론 속도를 높여주는 투기적 디코딩 기술을 전면에 내세워 기업용 프라이빗 배포 시장을 공략한다.
AMD가 첫 소형 언어 모델 시리즈인 AMD-135M을 공개했다. Llama 계열 기반의 기본형과 코딩 특화형으로 나뉘며, AMD Instinct MI250 노드에서 학습됐다. 대형 모델의 추론 속도를 높여주는 투기적 디코딩 기술을 전면에 내세워 기업용 프라이빗 배포 시장을 공략한다.