挑战OpenAI！NVIDIA官宣AI聊天机器人 本地RTX就可运行

近年来，人工智能技术的飞速发展，催生了各种各样的创新应用。在这之中，AI聊天机器人的发展在各个行业领域中都展现出了巨大的潜力。那最近，作为全球领先的显卡制造商 NVIDIA则宣布推出一款AI聊天机器人“Chat with RTX”。根据描述，该机器人能够与用户进行自然、流畅的对话，最重要的是只需本地的RTX显卡即可运行。

Chat with RTX借助检索增强生成（RAG）、NVIDIA TensorRT-LLM软件及NVIDIA RTX加速技术，将生成式AI功能引入由GeForce赋能的本地Windows PC。相比于现在市面上主流的AI聊天，它并非是在网页和APP中运行，用户需要将其下载到个人电脑中。这样在效果上不仅运行速度会更快，在使用上也不会受太多外部因素的限制，真正意义上的本地运行。

用户可快速轻松地将桌面端上的资料当成数据集，连接到Mistral或Llama 2这一类开源大型语言模型，以便快速查询与上下文有关的内容。

这款AI聊天机器人不仅具备了出色的语义理解和自然语言的生成能力，还能够根据用户的需求提供个性化的服务和答复。用户可以加入YouTube视频和播放列表里的信息，在Chat with RTX里加入视频网址，并根据视频中的内容进行你想要的提问，它便会以极快的速度进行回复。这一突破性的技术将进一步推动人机交互的革新，并有望在智能助手、在线客服、教育辅助等领域发挥重要作用。