快科技8月25日消息,據媒體報道,NVIDIA在近期的吹風會上,展示Blackwell在數據中心的運行情況,並駁斥此前關於Blackwell推遲上市的傳聞。
不僅如此,NVIDIA NVLINK技術也迎來重大升級,帶寬翻倍達到1.4TB/s。
Blackwell平臺不僅包含Blackwell GPU,還集成Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多種芯片,形成一個全面的數據中心解決方案。
Blackwell平臺的設計目標是滿足現代人工智能的需求,特別是針對超大型語言模型的計算需求,隨著AI模型參數的不斷增長,數據中心對計算能力和低延遲的要求也越來越高。
Blackwell平臺的多GPU推理方法,通過在多個GPU上分配計算任務,實現低延遲和高吞吐量的處理能力。
NVIDIA通過Blackwell推出速度更快的NVLINK交換機,該交換機基於臺積電4NP節點,提供1.8TB/s的雙向NVLINK帶寬,能夠連接72個GPU,大幅提高數據中心的通信效率。
NVIDIA還分享全球首張使用FP4計算生成的人工智能圖像,展示FP4量化模型在速度上的顯著優勢,同時保持與FP16模型相似的圖像質量。