Cohere、検索・RAG向け「Rerank 3 Nimble」発表:速度3倍
Cohereはエンタープライズ検索やRAG向けの新モデル「Rerank 3 Nimble」を発表した。高精度を保ちながらRerank 3比で約3倍の高速化を実現している。なお、現時点ではAmazon SageMaker限定で提供される。
Cohereはエンタープライズ検索やRAG向けの新モデル「Rerank 3 Nimble」を発表した。高精度を保ちながらRerank 3比で約3倍の高速化を実現している。なお、現時点ではAmazon SageMaker限定で提供される。
NVIDIAはAWS re:Inventにて、創薬向け生成AIプラットフォーム「BioNeMo」をAWS上で提供開始したと発表した。Amazon SageMakerなどを介して利用でき、最大512基のH100 GPUを用いてタンパク質モデルの学習期間を1か月から数日に短縮できる。製薬企業は自社データを使った基盤モデルの構築をクラウド上で迅速に行えるようになる。
AWSとHugging Faceはクラウド連携の拡大を発表した。Hugging FaceはAWSを優先パブリッククラウドに指定。開発者はAmazon SageMaker上でモデルを数クリックで配備でき、AWS独自チップのTrainiumやInferentiaを活用して生成AIの開発・推論コストを削減できる。