安装 NVIDIA Chat with RTX

本文主要是介绍安装 NVIDIA Chat with RTX，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

0. NVIDIA Chat with RTX 是什么？

Chat With RTX 是一款演示应用程序，可让您个性化连接到您自己的内容（文档、笔记、视频或其他数据）的 GPT 大语言模型 (LLM)。利用检索增强生成 (RAG)、TensorRT-LLM 和 RTX 加速，您可以查询自定义聊天机器人以快速获得上下文相关的答案。由于它全部在您的 Windows RTX PC 或工作站上本地运行，因此您将获得快速、安全的结果。

1. 安装 NVIDIA Chat with RTX

Note：安装目录里面不要有空格

2. 使用 NVIDIA Chat with RTX

从启动脚本中可知，NVIDIA Chat with RTX 支持2种模型，

• “Mistral 7B int4”
• “Llama 2 13B int4”
  

NVIDIA Chat with RTX 启动后，后自动打开浏览器，我们就可以使用了，

问一个问题试一试，

3. NVIDIA Chat with RTX 下载地址

访问 https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/ 进行下载。

完结！

这篇关于安装 NVIDIA Chat with RTX的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---