미스트랄 AI, 맘바 기반 오픈소스 코드 모델 '코드스트랄 맘바' 공개
미스트랄 AI가 트랜스포머 대신 맘바 아키텍처를 적용한 코드 생성 모델 '코드스트랄 맘바'를 발표했다. 입력 길이에 구애받지 않는 선형 시간 추론을 지원하며 최대 256k 토큰 컨텍스트 검색을 테스트했다. 아파치 2.0 라이선스로 전면 무료 공개되어 허깅페이스 가중치 다운로드 및 플랫폼 테스트를 지원한다.
미스트랄 AI가 트랜스포머 대신 맘바 아키텍처를 적용한 코드 생성 모델 '코드스트랄 맘바'를 발표했다. 입력 길이에 구애받지 않는 선형 시간 추론을 지원하며 최대 256k 토큰 컨텍스트 검색을 테스트했다. 아파치 2.0 라이선스로 전면 무료 공개되어 허깅페이스 가중치 다운로드 및 플랫폼 테스트를 지원한다.