NVIDIA的ChatRTX聊天機器人現在支持Google Gemma 模型、語音查詢等功能


英偉達(NVIDIA)正在更新其實驗性ChatRTX聊天機器人,為RTXGPU用戶引入更多人工智能模型。這個在WindowsPC上本地運行的聊天機器人已經可以使用Mistral或Llama2來查詢個人文檔,但現在支持的AI模型列表正在不斷擴大,包括Google的Gemma、ChatGLM3,甚至還有OpenAI的CLIP模型,讓它更容易搜索機器上的照片。

nvidia_chatrtx_og_1200x630.jpg

NVIDIA 在今年 2 月首次推出 ChatRTX,當時名為"Chat with RTX",它是一款演示應用,需要配備 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能運行。該應用本質上是創建一個本地聊天機器人服務器,可以通過瀏覽器訪問該服務器,並輸入本地文檔甚至 YouTube 視頻,從而獲得一個強大的搜索工具,其中包含對您自己數據的總結和問題解答。

Google的 Gemma 模型專為直接在高配筆記本電腦或臺式電腦上運行而設計,因此將其納入 ChatRTX 非常合適。NVIDIA 的應用消除在本地運行這些模型的一些復雜性,由此產生的聊天機器人界面可讓您在不同模型之間進行選擇,以便找到最適合您想要分析或搜索的數據的模型。

ChatRTX 可從 NVIDIA 網站下載,容量為 36GB,現在還支持基於通用語言模型框架的開放式雙語(英語和中文)大型語言模型 ChatGLM3。此外,還添加 OpenAI 的對比語言-圖像預訓練(CLIP),可讓您搜索本地照片數據並與之交互,從而對模型進行圖像識別訓練。

最後,NVIDIA 還更新 ChatRTX,以支持語音查詢。NVIDIA 集成人工智能語音識別系統 Whisper,可讓用戶使用語音搜索數據。


相關推薦

2024-02-02

Google今天宣佈,其"巴德"(Bard)聊天機器人現已在全球范圍內采用GeminiPro模型,支持40多種語言,包括阿拉伯語、中文、荷蘭語、法語、德語、印地語、日語、葡萄牙語、西班牙語、泰米爾語、泰盧固語和馬

2024-02-22

式電腦上運行"。這些模型將通過 Kaggle、Hugging Face、NVIDIA 的 NeMo 和Google的 Vertex AI 提供。Gemma 進入開源生態系統的方式與 Gemini 的發佈方式截然不同。雖然開發者可以在 Gemini 的基礎上進行開發,但他們要麼通過 API,要麼在Goo

2023-02-25

微軟最近上線的新必應聊天的公開預覽有時有點“狂躁”,因為聊天機器人人工智能開始與許多用戶提供一些奇怪的互動,特別是長會話的情況下。一周前,微軟對這些會話進行嚴格限制,每天隻允許50輪對話,幾天後,限制略

2022-12-14

ChatGPT的推出促使一些人猜測,人工智能聊天機器人可能很快取代傳統的搜索引擎。但Google的高管們表示,這項技術仍然太不成熟,不能過早到達用戶面前,問題包括聊天機器人的偏見、內容毒性,以及它們簡單地編造信息的傾

2023-03-09

快捷指令”形式連接 Siri 和 ChatGPT,讓 Siri 變成真正的 AI 聊天機器人。在 GitHub 或者“小眾軟件”上你都能找到對應的快捷指令——智能聊天,不過使用條件是需要申請 OpenAI 的付費 API。“ChatGPT Siri”在原理上與“xiaogpt”類似,

2023-02-09

人工智能(AI)聊天機器人巴德(Bard)回答錯誤,Google公司“被扣”1000億美元。Google似乎在與微軟的緊張競爭中失去自己的節奏,倉促推出類ChatGPT技術隻會增加錯誤風險。2月7日,Google在宣佈其類ChatGPT服務“巴德”時,在Twitter

2024-04-01

。而近年,隨著OpenAI的ChatGPT及其他競爭對手出現之後,聊天機器人現在更加先進,它們基於生成式人工智能的技術,能夠處理更復雜的查詢,並以文本、圖片甚至視頻的形式生成回應。註入新技術與許多其他智能手機制造商一

2023-09-26

快科技9月26日消息,OpenAI宣佈給聊天機器人ChatGPT增加語音交談的功能。這將給谷歌、蘋果等巨頭在智能語音助手領域帶來沖擊。據悉,ChatGPT可以用五個角色”來回答用戶的查詢,與Alexa和Siri等語音助手相比,它的語氣聽起來也

2024-02-22

用英偉達TensorRT-LLM對Gemma進行優化。英偉達上周剛發佈的聊天機器人Chat with RTX也將很快增加對Gemma的支持。即日起,Gemma在全球范圍內開放使用,用戶可以在Kaggle、Hugging Face等平臺上進行下載和試用,它可以直接在筆記本電腦或

2024-02-27

過預置的Colab和Kaggle notebooks,以及與Hugging Face、MaxText、NVIDIA NeMo和TensorRT-LLM等流行工具的集成,用戶可以輕松開始探索Gemma。- Gemma模型既可以在個人筆記本電腦和工作站上運行,也可以在Google Cloud上部署,支持在Vertex AI和Google Ku

2024-02-22

ab和Kaggle筆記本,以及與流行的工具如Hugging Face、MaxText、NVIDIA NeMo和TensorRT-LLM的集成,使得開始使用Gemma變得簡單。預訓練和指令調整的Gemma模型可以在您的筆記本電腦、工作站或Google Cloud上運行,並且可以輕松部署在Vertex AI和Goo

2024-02-22

開源領域大模型,迎來重磅新玩傢。Google推出全新的開源模型系列“Gemma”。相比Gemini,Gemma更加輕量,同時保持免費可用,模型權重也一並開源,且允許商用。Gemma 官方頁面:https://ai.google.dev/gemma/本次發佈包含兩種權重規模的

2023-02-09

需要的算力更小,這意味著能夠服務更多的人。Google將其聊天機器人描述為‘好奇心的發射臺’,有助於簡化復雜的話題。但 AI 回答問題也要有準確性,Google Bard 翻車在哪裡?僅僅是一個事實錯誤。Google Demo 的一 GIF 顯示,在回

2023-10-28

Google的BardAI聊天機器人現在可以實時回復你的問題。Bard以前隻在回復完成後才發送回復,但現在您可以在生成的同時就一睹答案。如果您不希望Bard實時回復您的問題,您仍然可以通過Bard窗口右上角的齒輪圖標在“實時回復”和