今年3月份的GTC大會上,NVIDIA正式發佈新一代加速顯卡H100,臺積電4nm工藝,集成800億晶體管,最高1.8萬個CUDA核心,功耗高達700W,80GBHBM3顯存。H100計算卡有SXM、PCIe5.0兩種樣式,PCIe版價格都要24萬元以上,SXM版會更貴一些,實際價格還不太確定。
不過花這麼多錢購買H100顯卡也不虧,因為它的性能提升相比上代實在是太大,最近MLPerf Inference 2.1中透露H100顯卡的性能,這也是第三方基準平臺首次公佈H100的AI性能,如下所示:
測試分為兩個類型的,測試的項目也主要是考察各種AI加速,我們看個結果就行,對比上代的A100顯卡,H100在不同測試中性能是前者的1.5倍到4.5倍,多花點錢並不虧。
值得一提的是,這個測試中還公佈國內的壁仞科技公司前不久發佈的BR100系列加速卡的性能,不過測試的不是滿血版的BR100,而是BR104,性能隻有BR100的一半。
在這個測試中,BR104的表現也不錯,隻不過測試項目不全面,無法得出準確評估結果,而且BR104的性能相比BR100減半,無法再現壁仞PPT中BR100吊打NVIDIA加速卡的場面。