英偉達希望通過Linux基金會的OPI項目來加速DPU的采用


在收購Mellanox前,英偉達其實就已經醞釀過一種名叫“BlueField”的數據處理單元(以下簡稱DPU)。據悉,DPU允許加速器無需通過標準x86架構、即可立即訪問網絡。但在該公司於六年前披露相關細節後,期間它一直沒有引發足夠廣泛的討論。

(via WCCFTech)

因相較於 PCIe 通道,CPU 其實更適合應用程序的管理,所以 BlueField 有望讓該過程變得更加智能、同時減輕其它 PC 組件的工作負擔。

最新消息是,即便當前隻有少數公司在實際工作場所中使用 DPU,英偉達還是計劃通過 Linux 基金會項目來推動並改進支持。

JBOF 讓直連 CPU 的所有初始化 PCIe 連接打通 NVMe 驅動器的數據傳輸

StorageReview 指出:與常用的標準以太網 NIC 相比,DPU 的益處顯而易見。其外觀更像是一塊微型計算板、擁有更強的處理性能,而不是單純的“數據搬運工”。

此外 JBOF 可在不使用 x86 架構的情況下實現相同的操作,從而彰顯它的實用性和吸引力。系統使用兩根 PCIe 3.0 排線,來連接一臺或多臺服務器的存儲陣列。

(圖 via StorageReview)

VAST Data 使用英偉達當前基於 BlueField 設計的 DPU,其采用高密度 1U 外形、可共享驚人的 675 TB 閃存存儲。

另外 Fungible 打造允許分解的 DPU 設計,StorageReview 能夠訪問其陣列,且 Fungible 最近表示打造自傢設計的 GPU 。

尷尬的是,由於需要大量軟件才能與系統配合使用,這嚴重拖累 BlueField DPU 的可訪問性。

而要將相關產品部署到現有的系統,也沒有想象中的那麼輕松。最重要的是,標準存儲企業正考慮轉向更快速的設計和制造方法。

(圖 via StorageReview)

有鑒於此,英偉達正致力於通過成為 Linux 基金會的開放可編程基礎設施項目(簡稱 OPI)的創始成員,來更好地推動 DPU 技術在市場上的普及。

這一舉措可讓 DPU 集成到更多系統中、易於訪問且速度更快,且英偉達近期已在開源領域的更多 API 中啟用 DOCA、以便廣大開發者能夠更快地采用。

最後,該公司在 6 月 21 日的一篇博客文章中寫道:“OPI 項目旨在創建一個由社區驅動、基於標準的開放生態系統,以借助 DPU 加速數據中心的網絡和其它基礎設施任務”。

至於 DOCA,其涵蓋驅動程序、庫服務、文檔、示例應用程序、管理工具等組件,旨在加速應用程序性能和簡化開發工作。

它為使用加速驅動程序,或 DPDK、SPDK、Open vSwitch、Open SSL 的底層庫編寫的 BlueField 應用程序帶來更高的靈活性和可移植性。

英偉達將持續提供這方面的支持,且作為 OPI 的一部分,開發者們能夠構建一個通用編程層,以支持諸多具有 DPU 加速功能的開放驅動程序和庫。


相關推薦

2022-08-31

在周二的一篇官方新聞稿中,英偉達宣佈與戴爾達成的一項新合作,致力於為零信任安全和人工智能時代打造全新的數據中心解決方案。通過結合戴爾的PowerEdge服務器、英偉達的BlueFieldDPU/GPU/AIEnterprise軟件、以及針對VMwarevSphere8

2022-09-13

匯集來自AMD、亞馬遜AWS、GoogleCloud、Meta、微軟Azure、以及英偉達的代表。此前多年,PyTorch 框架一直在自由的 BSD 許可證下公開開發,目前已被 15 萬個大型項目使用 —— 包括特斯拉 Autopilot 和 Uber Pyro 。PyTorch Journey - Meta(via)鑒

2023-03-22

全球AI計算技術盛會、一年一度的英偉達GTC大會如期而至!英偉達CEO黃仁勛(昵稱“老黃”)一如既往穿著標志性的皮衣進行78分鐘演講,滿面笑容地分享英偉達又悶聲幹哪些大事。總體來看,此次演講可總結成一大‘亮點’和

2024-04-22

觀態度。事實上,Torvalds 指出一個人工智能的良好作用:英偉達已經開始更好地與 Linux 內核開發團隊進行持續的溝通,並與 Linux 內存管理部門開展良好的合作,從而在 Linux 上更加高效地運行人工智能大語言模型(LLMs)。Torvlads

2024-03-14

美國銀行周三在一份報告中表示,盡管英偉達的市值已達到2.2萬億美元,但它的股價仍然不算貴。該行重申對英偉達股票的“買入”評級,並將其目標價從925美元上調至1100美元,意味著較周三收盤價908.88美元有21%的上漲空間。

2024-03-28

時至今日各大公司都還在繼續搶購 GPU,更確切地說,是英偉達的高端 GPU:如果說《沙丘》是“得香料者得天下”,那 AI 行業就是“得英偉達 GPU 者得天下”。圖/英偉達這也讓整個行業對於英偉達 GPU 又愛又恨,一方面是基於 CUD

2023-09-09

中得到解決,比方說一個在中國,另一個在美國。我真的希望能夠共同構建通用的技術解決方案,也許未來的人工智能翻譯可以解決這個問題。我們必須創造出應對時區差異和文化差異的方法。正是因此,我才行至中國,Linux 基

2024-03-17

一個季度賺123億美元的英偉達,現在成許多半導體企業艷羨的對象,大傢頭一回發現,原來GPU利潤這麼高,甚至能撐起2萬億美元的市值,但英偉達真的會滿足於此嗎?英偉達CEO黃仁勛曾在2008年發表過感言,認為公司應該把研究

2023-01-11

業臺積電,全球最大IDM芯片商英特爾,3傢芯片設計巨頭英偉達、高通、AMD,以及半導體設備巨頭應用材料。用綠色背景突出顯示的企業,市值跌幅均已接近或超過50%。其他半導體設備巨頭們同樣陷入股市困境,荷蘭光刻機霸主

2024-04-17

繼去年Nouveau獲得英偉達GSP固件運行支持和GeForceRTX40系列加速支持之後,紅帽公司的BenSkeggs意外地辭去Nouveau內核驅動程序維護者的職務。原來,這位長期從事開源Nouveau驅動程序開發的人員現在受雇於英偉達公司,並繼續從事開源

2023-01-16

以往每隔18個月靠工藝迭代帶來的常規演變,以英特爾、英偉達和AMD為首的芯片巨頭之間的競爭變得異常激烈。從英特爾、英偉達、AMD三傢的產品佈局來看,三傢幾乎都集齊CPU、GPU甚至是DPU產品線。如今,他們正在醞釀更大的規

2023-03-17

大學計算機系教授鄭緯民日前表示,ChatGPT需要三萬多片英偉達A100GPU,初始投入成本約8億美元。華安證券研究所所長尹沿技認為,2012 年以來,AI訓練任務中的算力增長(所需算力每3.5月翻一倍)已經超越芯片產業長期存在的摩

2024-03-29

多詳情請參見今天的新聞稿。這個 Redis fork 正在 GitHub 上通過valkey-io/valkey 進行開發。此外,還有其他 Redis fork,如多線程 KeyDB 和 Redict。但由於 Valkey 得到 Linux 基金會和其他大型組織的支持,Valkey 大概會成為 Redis 的社區開源替

2023-04-04

和人類的未來,我捐出世界上第一臺DGX-1。”2016年8月,英偉達創始人黃仁勛,帶著一臺裝載8塊P100芯片的超級計算機DGX-1,來到OpenAI的辦公大樓。在現場人員到齊後,老黃拿出記號筆,在DGX-1的機箱上寫下這句話。與其一同前往