Chat With RTX 你的个性化聊天机器人！耕升 GeForce RTX 40 SUPER系列显卡助力用户本地部署！

随着ChatGPT在2022年11月底的正式发布，AI工具可以说是正式出现在了大众的视野。随后AI技术开始呈现井喷式的发展，诞生了许多功能各异的AI软件。NVIDIA 作为PC领域的领军者，自然也研究了许多有用的AI工具。先前只能基于NVIDIA RTX的云端服务器使用的Chat With RTX ，目前也已经支持在 Windows RTX PC 或工作站上进行本地部署。这不仅极大地提升了搜索效率，更重要的是，它让用户在处理敏感资料时，无需再将数据上传至第三方或连接至网络，从而确保了用户在使用过程中的安全性。特别是对于耕升 GeForce RTX 40 SUPER系列显卡的用户来说，他们不仅在日常游戏中享受到了流畅的帧数体验，更在使用NVIDIA的AI工具时，感受到了显著的速度提升。

Chat With RTX 促进了用户数据（无论是文档、笔记、视频还是其他形式的内容）与 LLMs 之间的直接连接，增强了其对上下文的理解和个性化。通过检索增强生成（RAG）、TensorRT-LLM 和 RTX 加速，用户可以与定制的聊天机器人交流，快速获取根据其内容定制的答案。同时，用户可以快速轻松地将桌面端上的资料作为数据集，连接到 Mistral 或 Llama 2 这一类开源大型语言模型，以便快速查询与上下文有关的内容。

Chat With RTX支持多种文件格式，包括文本文件、PDF、DOC/DOCX 和 XML，实现了流程的简化。只需在应用程序中指定包含目标文件的文件夹，几秒钟内，应用程序即可将它们加载到库中。

Chat With RTX还支持用户输入视频网站YouTube 播放列表的 URL，使应用程序自动转录视频的内容，以进行查询，进一步丰富了对话体验。相信后续也会进一步支持国内视频网站的使用。