英偉達AI Workbench正式發佈,大幅度簡化大模型開發流程


聲明:本文來自於微信公眾號AIGC開放社區(ID:AIGCOPEN),作者:AIGC開放社區,授權站長之傢轉載發佈。

3月22日,英偉達在官網宣佈,正式發佈NVIDIA AI Workbench

AI Workbench是一款面向AI大模型開發人員的工具包,可以幫助開發人員消除很多繁瑣、復雜的部署、開發流程。

無論你的技術水平如何,開發人員都可以體驗快速可靠的 GPU 環境設置以及跨異構平臺工作、管理和協作。

免費下載地址:https://www.nvidia.com/en-us/deep-learning-ai/solutions/data-science/workbench/

AI Workbench主要功能介紹:

  • 快速安裝、設置和配置基於GPU的開發環境。

  • 基於最新模型的預構建、即插即用的生成式人工智能和機器學習示例項目。

  • 使用NVIDIA API目錄中的雲端端點或本地NVIDIA NIM微服務部署生成式AI模型。

  • 直觀的用戶體驗加上命令行界面(CLI)。

  • 易於在不同開發環境中復現和移植。

  • 基於 Git 和容器的開發環境自動化。

  • 容器和Git倉庫的版本控制和管理。

  • 與GitHub、GitLab和NVIDIA NGC目錄的集成。

  • 憑證、秘密和文件系統變更的透明處理。

自Beta版發佈以來,AI Workbench還增加幾個新的關鍵功能:

Visual Studio (VS) Code支持:直接集成到VS Code中,以在GPU環境中編排容器化項目。

基礎鏡像選擇:用戶在創建項目時可以選擇自己的容器鏡像作為項目的基礎鏡像。容器鏡像必須使用符合基礎鏡像規范的鏡像標簽。

改進的軟件包管理:用戶可以通過Workbench用戶界面直接管理和添加軟件包到容器中。

安裝改進:Windows和MacOS用戶有更簡單的安裝路徑。Docker容器運行時也得到改進的支持。

AI Workbench 可以將生成式人工智能開發引入任何支持 GPU 的環境,提供統一界面,適用於數億臺現代 NVIDIA RTX 驅動的工作站和個人電腦,也適用於數據中心和雲端。

Mac 用戶可以安裝 AI Workbench,並將項目遷移到 NVIDIA 驅動的系統,以便進行協作和獲得更強大的計算能力。

NVIDIA提供一系列免費的Workbench項目示例,以幫助開發者入門:

使用混合檢索增強生成(RAG)與你的文檔進行交流。在你的系統上運行嵌入模型,將文檔存儲在私人向量數據庫中。使用NVIDIA API在雲端配置推理,或者在RTX系統上使用NIM推理微服務本地運行。

在任何規模上定制LLMs。從在本地運行量化模型到進行全面微調以優化精度。進行微調並在任何地方運行——在RTX系統上本地運行,或者擴展到數據中心或雲端。在GitHub上查看Llama-2或Mistral-7B項目。

在RTX PC或雲端上運行Stable Diffusion XL,通過文本提示生成定制圖像。輕松在你選擇的GPU啟用環境中重現,以便用你的圖像對模型進行微調。

除快速的GPU工作站設置外,AI Workbench還提供示例項目作為一個即插即用的起點,幫助開發人員更快地開始他們的數據和用例。Workbench項目整合所有需要的資源和元數據,以簡化跨各種基礎設施的工作流管理,同時促進無縫移植和可在任何地方再現性。


相關推薦

2023-08-10

系列重磅更新接踵而至——下一代GH200超級芯片平臺、AIWorkbench、OpenUSD……而英偉達也借此將過去這數十年的所有創新,比如人工智能、虛擬世界、加速、模擬、協作等等,全部融合到一起。在這個時代裡,或許正如老黃的經典

2024-02-10

生成式AI的誕生,為芯片設計開啟另一條路。現在不論是英偉達等科技公司,還是學術界,都在試圖研發出能夠完全自主設計芯片的AI系統。用生產式AI加速芯片設計,將會成為半導體行業基操。在過去的⼀年⾥,算力巨頭英偉達

2023-08-10

節點都是8個H100或A100。除與HF合作,英偉達還推出自己的Workbench平臺。通過連接雲端服務,用筆記本電腦就能跑大模型。現場還播放通過Workbench跑SDXL的演示視頻。在Jupyter中,演示者讓SDXL畫一個“玩具老黃”。此時的SDXL還不知道

2023-03-22

全球AI計算技術盛會、一年一度的英偉達GTC大會如期而至!英偉達CEO黃仁勛(昵稱“老黃”)一如既往穿著標志性的皮衣進行78分鐘演講,滿面笑容地分享英偉達又悶聲幹哪些大事。總體來看,此次演講可總結成一大‘亮點’和

2024-02-21

到底差多少。就在Groq風風火火之際,全球最大AI芯片公司英偉達陷入一些振蕩。今日英偉達官宣將在3月18日-21日舉辦其年度技術盛會GTC24,但其股市表現卻不甚理想。受投資者快速撤股影響,英偉達今日股價降低4.35%,創去年10月

2024-03-19

個個通過AI模擬出來的酷炫的視頻後,一切鋪墊就緒——英偉達就是這一切進步的基石。是時候該發佈重要芯片。人們對此有預期,但當B200出現的時候,現場(可能包括全世界圍觀者)都還是忍不住驚呼。這是Hooper後的新一代架

2024-03-19

全球總市值第三的上市公司英偉達(NVDA.US),似乎正在變成一個面向YOLO交易人群(即以“你隻活這一次”——YouOnlyLiveOnce,為宗旨的激進投資群體)的賭博式交易對象。在美東時間3月18日召開的GTC大會預期催化之下,英偉達的期權活

2023-11-16

傳輸更加快速。就在你以為微軟要用自研處理器,免交“英偉達稅”時,納德拉不僅請來英偉達創始人黃仁勛進行“商業互吹”,而且將 AMD 、英偉達最新的處理器納入 Azure 雲服務,讓後者在AI時代成為最 Open 的“世界計算機”

2023-12-02

器CPU可定制化特性的還有最重要的AI芯片提供商之一——英偉達。在英偉達強大的GH200超級芯片中,包含72顆Arm Neoverse核心,加上英偉達的GPU,GH200的AI性能較基於x86架構的系統可提升10倍。為滿足更多客戶在基礎設施建設中的定制

2023-11-09

強調功能全面且回答更具責任性的生成式人工智能,以及大幅度減少AI技術中的偏見和歧視問題。在一些AI業內人士看來,這一切看似是 OpenAI 與 Anthropic 的競爭,實則 OpenAI 背後的最大股東微軟與Anthropic 重要支持力量谷歌和亞馬

2024-03-14

年9月,甲骨文董事長埃裡森、特斯拉CEO馬斯克,一起請英偉達創始人黃仁勛在矽谷一傢豪華餐廳吃日料。年屆八旬的埃裡森回想起那頓飯仍難以平靜。“席間埃隆(馬斯克)和我在乞求,我想用這個詞來形容我們再恰當不過。

2023-11-22

北京時間11月22日,美國人工智能(AI)芯片巨頭英偉達周二表示,受到美國近期出臺的出口管制新規的影響,公司本季度面向中國市場的銷售額預計將出現“大幅”下滑。英偉達周二發佈截至10月份的第三財季財報。受到高性能AI芯

2024-03-25

令人期盼的科技盛宴本周在這裡上演。當地時間3月18日,英偉達CEO黃仁勛身著標志性的黑色皮夾克,登上萬人體育場,宛如一位搖滾巨星。“歡迎來到GTC大會。希望你們意識到這裡不是演唱會,而是一個開發者大會。”他在開場

2023-10-31

英偉達周一公佈一項新的研究,在設計半導體的過程中使用人工智能(AI)聊天機器人來產生與人類相似的反應。現代芯片是由數百億個晶體管組成的電路,要弄清楚如何在一片矽上排列它們是科技行業最困難的任務之一,數千