AI新時代不但對算力、模型要求越來越高,也需要越來越強大的網絡。為此,NVIDIA發佈專為大規模AI量身訂制的全新網絡交換機——X800系列。據悉,NVIDIAQuantum-X800InfiniBand網絡、Spectrum-X800以太網絡是全球首批高達800Gbps端到端吞吐量的網絡平臺,早期用戶包括微軟Azure、甲骨文雲、Coreweave等等。
Quantum-X800平臺可以說是AI專用基礎設施極致性能的新標桿,包含Quantum Q3400交換機、ConnectX-8 SuperNIC網卡,二者互連的端到端吞吐量達到業界領先的800Gbps(80萬兆)。
同時,交換帶寬容量比上一代提高5倍,網絡計算能力則憑借NVIDIA SHARPv4技術提高9倍,達到14.4TFlops,也就是每秒14.4萬億次計算。
Spectrum-X800則包含Spectrum SN5600交換機、BlueField-3 SuperNIC網卡,吞吐量同樣高達800Gbps,可為多租戶AIGC雲和大型企業級用戶提供各種至關重要的先進功能。
軟件方面,NVIDIA 提供面向萬億參數級AI模型性能優化的網絡加速通信庫、軟件開發套件、管理軟件等全套軟件方案。
其中,NVIDIA集合通信庫(NCCL)可將GPU的並行計算任務擴展到Quantum-X800網絡,並利用基於SHARPv4的強大網絡計算能力、對FP8數據格式的支持,為大模型訓練和AIGC提供超強的性能。
全球多傢頭部基礎設施供應商和系統廠商將從2025年開始,提供基於Quantum-X800、Spectrum-X800的網絡平臺,包括Aivres、DDN、戴爾、Eviden、Hitachi Vantara(日立旗下)、慧與、聯想、超微、VAST Data等等。