ふむふむ
https://www.nvidia.com/ja-jp/ai-on-rtx/chat-with-rtx-generative-ai/
Chat With RTX は、独自のコンテンツ (ドキュメント、メモ、映像、その他のデータ) に接続された GPT 大規模言語モデル (LLM) をカスタマイズできるデモアプリです。検索拡張生成 (RAG)、TensorRT-LLM、および RTX アクセラレーションを利用して、カスタム チャットボットに質問することで、コンテキストに関連した回答を迅速に得ることができます。また、すべて Windows RTX PC またはワークステーション上のローカルで実行されるため、迅速かつ安全な結果が得られます。