NVLINK升級至1.4TB/s!NVIDIA Blackwell已在數據中心運行


快科技8月25日消息,據媒體報道,NVIDIA在近期的吹風會上,展示Blackwell數據中心的運行情況,並駁斥此前關於Blackwell推遲上市的傳聞。

不僅如此,NVIDIA NVLINK技術也迎來重大升級,帶寬翻倍達到1.4TB/s。

Blackwell平臺不僅包含Blackwell GPU,還集成Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多種芯片,形成一個全面的數據中心解決方案。

Blackwell平臺的設計目標是滿足現代人工智能的需求,特別是針對超大型語言模型的計算需求,隨著AI模型參數的不斷增長,數據中心對計算能力和低延遲的要求也越來越高。

Blackwell平臺的多GPU推理方法,通過在多個GPU上分配計算任務,實現低延遲和高吞吐量的處理能力。

NVIDIA通過Blackwell推出速度更快的NVLINK交換機,該交換機基於臺積電4NP節點,提供1.8TB/s的雙向NVLINK帶寬,能夠連接72個GPU,大幅提高數據中心的通信效率。

NVIDIA還分享全球首張使用FP4計算生成的人工智能圖像,展示FP4量化模型在速度上的顯著優勢,同時保持與FP16模型相似的圖像質量。


相關推薦

2024-03-20

今天凌晨,黃仁勛正式拿出新一代BlackwellGPU架構,以及基於此的B100/B200GPU芯片、GB200超級芯片、DGX超級計算機,再次將“戰術核彈”提升全新的境界,傲視全球。Blackwell B200 GPU首次采用chiplet晶粒封裝,包含兩顆B100,而B200之間再

2024-03-19

產力的演變流程,最後一項正是今天的重點!改變形態的Blackwell GPU沒錯,老黃在GTC宣佈推出新一代GPU Blackwell。這裡先介紹一下Blackwell架構,此前NVIDIA推出的顯卡一般是兩種架構,其中遊戲顯卡例如我們熟悉的RTX 40系則是Ada Lovela

2024-03-21

本,而是為擴大規模。”作為GTC大會的核心,英偉達發佈Blackwell GPU,它分為B200和GB200系列,後者集成1個Grace CPU和2個B200 GPU。NVIDIA GB200 NVL72大型機架系統使用GB200芯片,搭配NVIDIA BlueField-3數據處理單元、第五代NVLink互聯等技術,

2023-11-10

近期美光公司正式發佈包括GDDR7和HBM4E內存技術在內的顯存路線圖。目前美光最高規格的GDDR6X顯存最高運行帶寬為24Gbps,顯存容量為16GB。根據美光發佈的路線圖,將在2024年中推出GDDR7顯存,運行帶寬為32Gbps,容量為16-24Gb;到2026

2023-01-16

一起,在單個超級芯片中連接高帶寬和內存一致的NVIDIA NVLink Chip-2-Chip(C2C)?互連,並支持新的NVIDIA NVLink開關系統。NVLink C2C是NVIDIA為超級芯片開發的內存相幹、高帶寬和低延遲互連。它是Grace Hopper超級芯片的核心,提供高達900 GB/s

2024-03-19

在奮力追趕,但也許NVIDIA即將擴大其領先優勢--憑借新的BlackwellB200GPU和GB200"超級芯片"。NVIDIA 首席執行官黃仁勛在 GTC 現場直播中舉起他的新 GPU(左邊),右邊是 H100。NVIDIA 表示,新的 B200 GPU 擁有 2080 億個晶

2023-11-14

比上代A100,更是容量幾乎翻番,帶寬增加2.4倍。得益於NVLink、NVSwitch高速互連技術,H200還可以四路、八路並聯,因此單系統的HBM3e內存容量能做到最多1128GB,也就是1.1TB。隻是相比於AMD Instinct MI300X還差點意思,後者搭載192GB HBM3

2023-11-14

NVIDIA首次發佈其下一代BlackwellB100GPU的性能預告,2024年其性能將是HopperH200的兩倍多。在SC23特別演講中,英偉達(NVIDIA)預告其代號為Blackwell的下一代GPU的性能,該GPU將於2024年首次亮相,其AI性能將是HopperGPU的2倍以上。使用的GPU

2023-01-21

能、能效。Grace CPU二合一Grace CPU+Hopper GPU二合一它通過NVLink-C2C芯片間互連總線,將兩顆Grace CPU整合在一塊基板上,彼此之間的雙向帶寬多達900GB/s。Grace CPU基於Armv9-A 9.0架構、Neoverse V2 64位內核,以4個128-bit功能單元的方式配置兩

2024-03-25

”,英偉達在GTC大會上亮出不少“黑科技”。其中,基於Blackwell架構的全新GPU芯片,性能是上一代的4倍,能效提升25倍,可謂“最強AI芯片”。全新AI微服務提供從應用軟件到硬件編程的一站式服務,在硬件、軟件和系統上全棧

2023-03-23

,NVIDIA就拿出專供中國市場的A800,在已有A100的基礎上將NVLink高速互連總線的帶寬從600GB/s降低到400GB/s,其他完全不變。如此一來,A800的大規模擴展互連將受到限制,但是單卡性能沒有損失。昨晚的GTC 2023春季圖形大會上,NVIDIA

2022-12-11

出Hopper繼任者的消息。根據爆料,取代Hopper的下代GPU代號Blackwell。在此之前,外界就曾挖到名為GB100和GB102的新核心,算是比較有力的證據。據稱NVIDIA正與臺積電協作,致力於采用3nm工藝節點來制造Blackwell GPU。從規格上來看,當

2024-03-19

都還是忍不住驚呼。這是Hooper後的新一代架構,以數學傢Blackwell命名。在性能上,它就是黃仁勛“黃氏定律”的集大成者和奠基者。以下是我用AI總結的Blackwell GPU的性能特點:高AI性能:B200 GPU提供高達20 petaflops的FP4計算能力,

2024-03-19

《見證AI的變革時刻》。發佈會上,黃仁勛介紹全新芯片Blackwell,他稱Blackwell的推理能力是驚人的,相較於前代產品H100有著驚人的提升,是Hopper的30倍。英偉達表示,Blackwell 架構的 GPU 預計將於今年晚些時候發貨。Blackwell以美國