코히어, 기업 검색·RAG 특화 '리랭크 3 님블' 공개…3배 가속
코히어가 기업용 검색 및 RAG 시스템을 위한 신규 모델 '리랭크 3 님블'을 공개했다. 높은 정확도를 유지한 채 기존 Rerank 3보다 약 3배 빨라졌다. 다만 현재는 아마존 세이지메이커(Amazon SageMaker)에서만 독점 제공된다.
코히어가 기업용 검색 및 RAG 시스템을 위한 신규 모델 '리랭크 3 님블'을 공개했다. 높은 정확도를 유지한 채 기존 Rerank 3보다 약 3배 빨라졌다. 다만 현재는 아마존 세이지메이커(Amazon SageMaker)에서만 독점 제공된다.
엔비디아는 AWS re:Invent에서 신약 개발 생성형 AI 플랫폼 '바이오네모(BioNeMo)'를 AWS에 출시했다고 발표했다. 연구팀은 아마존 세이지메이커 등을 통해 512개의 H100 GPU 환경에서 단백질 모델 학습 기간을 한 달에서 며칠 수준으로 줄일 수 있다. 바이오 기업이 자체 데이터를 활용해 클라우드에서 생물학 파운데이션 모델을 직접 구축하도록 돕는다.
AWS와 허깅페이스가 클라우드 파트너십 확대를 발표했다. 허깅페이스는 AWS를 우선 클라우드로 지정했으며, 개발자는 아마존 세이지메이커에서 클릭 몇 번으로 모델을 배포하고 AWS 자체 칩인 트레이니엄과 인퍼런시아를 사용해 생성형 AI 구축 비용을 절감할 수 있다.