NVIDIA Chat with RTX已提供下载，完全运行在本地的AI助手！

像是 Chat GPT这样的人工智能助手，虽然很有用，但必须要有网络连接。当然， LLM也可以在当地部署，但更麻烦。最近 NVIDIA公司发布了一种更便捷的在本地部署 AI助理的方法，叫做 RTX Chat。

NVIDIA公司在其官方博客上说， RTX Chat是一款能让用户根据自己的内容自定义聊天机器人的科技示范程序。该程序将检索增强的生成，TensorRT-LLM以及 NVIDIA的 RTX加速技术相结合。使用者可以将电脑中的本地档案，以资料库形式连结至开放源码 LLM，例如 Mistral或Llam2，让 AI可以得到解答及相关档案，而不用再亲自搜寻。NVIDIA公司称，带有 RTX的 Chat支持各种不同的文档，如： txt、 pdf、 doc、 docx、. xml，只要给出一个目录， AI就可以在几秒钟之内将其载入。

此外，用户也可以通过允许 AI来理解和抽取 YouTube视频（这是 NVIDIA公司的说法，不清楚是否支持其他站点），只要增加 YouTube视频或播放列表的网址，就能问 AI一些问题，比如让 AI对视频进行摘要。这里要说的是，尽管这种操作要求对网络进行接入，但人工智能的计算却是在整个过程中完成的。

而在配置方面，则需要一块 RTX 30或者40系列的显卡，最少也要8 G，最少也要8 GB，而且还得有535.11和更新的驱动。存储空间并不是很高。就占地而言，使用者将需要下载35.1 G的档案。有兴趣且符合设定条件的使用者，可按「此连结」直接下载体验。

值得一提的是，这款游戏的下载链接来自美国区，而中国区的 RTX Chat页面则是一片空白。