NVIDIA、ローカルで動く「Chat with RTX」を無料公開：PC内の文書や動画と対話
NVIDIAは、Windows PC上でローカルにカスタムチャットボットを動かせるデモ「Chat with RTX」を無料公開した。MistralやLlama 2といったオープンソースLLMに手元の文書やYouTube動画を読み込ませ、オフラインで素早く検索・対話できる。利用にはGeForce RTX 30 Series GPU以上と8GB以上のVRAMが必要だ。
NVIDIAは、Windows PC上でローカルにカスタムチャットボットを動かせるデモ「Chat with RTX」を無料公開した。MistralやLlama 2といったオープンソースLLMに手元の文書やYouTube動画を読み込ませ、オフラインで素早く検索・対話できる。利用にはGeForce RTX 30 Series GPU以上と8GB以上のVRAMが必要だ。