英偉達(NVIDIA)正在更新其實驗性ChatRTX聊天機器人,為RTXGPU用戶引入更多人工智能模型。這個在WindowsPC上本地運行的聊天機器人已經可以使用Mistral或Llama2來查詢個人文檔,但現在支持的AI模型列表正在不斷擴大,包括Google的Gemma、ChatGLM3,甚至還有OpenAI的CLIP模型,讓它更容易搜索機器上的照片。
NVIDIA 在今年 2 月首次推出 ChatRTX,當時名為"Chat with RTX",它是一款演示應用,需要配備 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能運行。該應用本質上是創建一個本地聊天機器人服務器,可以通過瀏覽器訪問該服務器,並輸入本地文檔甚至 YouTube 視頻,從而獲得一個強大的搜索工具,其中包含對您自己數據的總結和問題解答。
Google的 Gemma 模型專為直接在高配筆記本電腦或臺式電腦上運行而設計,因此將其納入 ChatRTX 非常合適。NVIDIA 的應用消除在本地運行這些模型的一些復雜性,由此產生的聊天機器人界面可讓您在不同模型之間進行選擇,以便找到最適合您想要分析或搜索的數據的模型。
ChatRTX 可從 NVIDIA 網站下載,容量為 36GB,現在還支持基於通用語言模型框架的開放式雙語(英語和中文)大型語言模型 ChatGLM3。此外,還添加 OpenAI 的對比語言-圖像預訓練(CLIP),可讓您搜索本地照片數據並與之交互,從而對模型進行圖像識別訓練。
最後,NVIDIA 還更新 ChatRTX,以支持語音查詢。NVIDIA 集成人工智能語音識別系統 Whisper,可讓用戶使用語音搜索數據。