本年2月，NVIDIA推出了Chat with RTX，作为一个本地布置的谈天机器人，它用到了 TensorRT-LLM 和 NVIDIA RTX 加快技能，是显卡运用大言语模型的一个技能演示demo。

  最近，NVIDIA宣告Chat with RTX 正式更名为ChatRTX。这次的更新增加了许多新功用，例如在新版本中参加了对智谱AI的ChatGLM3-6B这个中文LLM的支撑，一起还支撑语音交互和图画查找功用。

  语音辨认功用的参加，意味着用户都能够经过语音对话的方式与ChatRTX进行交互，极大提升了运用的快捷性。集成了Whisper（AI语音辨认体系）后，用户可运用语音查找数据，该体系运用 AI处理白话并供给支撑多种言语的文本呼应。只需单击麦克风图标并与ChatRTX攀谈即可开端运用，ChatRTX 将供给文本呼应。

  图画方面，全新ChatRTX支撑OpenAI的CLIP模型，它可依据你给出的信息查找本地指定目录里边的图片，在很多本地图片中找出契合指令要求的图片。这项功用意味着其可辨认和了解图片内容，无需杂乱的元数据符号，用户只需用文字描述图片，ChatRTX就能“看懂”图片并进行检索、排序等操作。

  与ChatGPT等在线AI谈天类东西不同，NVIDIA ChatRTX不需求云端核算，这对用户的隐私和数据保密性更好。ChatRTX还支撑扫描和剖析本地文件目录的才能，支撑指定格局的文件，用户可运用该功用建立本地的数据资料库，只需求给出文件夹途径，AI就会在数秒内把它们加载到库中。

  除了功用性有所增强，体积优化整合才能也是这次更新的要点。ChatRTX全新安装包的体积大幅减缩，从此前的35GB削减到12GB，但安装完后程序仍需求约35GB的空间，因而在下载之前要留够满意的空间。

  至于硬件需求，从NVIDIA的官网咱们我们能够看到，现在ChatRTX只支撑GeForce RTX 30和GeForce RTX 40系芯片组的产品，显存需求起步容量为8GB。电脑内存则需求16GB以上的容量，且需在Windows 11的体系环境下运转。

  总结来说，ChatRTX并没有到“功用强壮”的等级，实用性和交互体会无法与在线AI谈天东西相媲美，因而现在依旧只能作为技能演示的运用。可是它的长处也很明显，即更快的呼应速度和更好的隐私维护。

  ChatRTX运转在 GeForce RTX PC 的 Windows 体系上，无需经过云端的运算则省去了传输的推迟，因而其速度很快。ChatRTX 并不依靠云服务，且用户的数据仅保存在本地，因而能在本地 PC 上处理敏感数据，无需与第三方同享数据或衔接互联网，完成更强壮的隐私维护。

  信任跟着这款运用的后期更新和完善，未来 NVIDIA 会把一个更好用的本地大言语模型东西的“完整体”带给我们。想体会全新ChatRTX的用户，引荐运用索泰GeForce RTX 4070 SUPER X-GAMING OC 欧泊白显卡。

  这款显卡搭载根据全新Ada Lovelace架构的GPU中心，内置第四代Tensor core，关于大言语模型运用等AI软件的优化更强。一起，它还搭载12GB的GDDR6X高速显存，能满意ChatRTX关于显存的需求。

  除了游戏画面加快、3D运用加快等根底目标。渐渐的变多的顾客开端重视显卡的AI运算才能，索泰GeForce RTX 4070 SUPER X-GAMING OC 欧泊白具有 568 TOPS 的 AI 算力，成为现阶段性价比适当高的一款AIGC构思生产力显卡。

  用料上，这款显卡也毫不含糊。它具有三具大尺度阴影疾电扇叶，能带来更高风压和更大风量，调配卡身大面积镂空风道，可完成高效畅顺散热。纯白卡身加上涂鸦印纹的外观辨识度很高，一起这样的规划也十分巴结年青玩家，很好地投合了纯白DIY装机潮的需求。