NVIDIA H100加速卡實測數據公佈:相比上代性能提升1.5倍到4.5倍


今年3月份的GTC大會上,NVIDIA正式發佈新一代加速顯卡H100,臺積電4nm工藝,集成800億晶體管,最高1.8萬個CUDA核心,功耗高達700W,80GBHBM3顯存。H100計算卡有SXM、PCIe5.0兩種樣式,PCIe版價格都要24萬元以上,SXM版會更貴一些,實際價格還不太確定。

不過花這麼多錢購買H100顯卡也不虧,因為它的性能提升相比上代實在是太大,最近MLPerf Inference 2.1中透露H100顯卡的性能,這也是第三方基準平臺首次公佈H100的AI性能,如下所示:

測試分為兩個類型的,測試的項目也主要是考察各種AI加速,我們看個結果就行,對比上代的A100顯卡,H100在不同測試中性能是前者的1.5倍到4.5倍,多花點錢並不虧。

值得一提的是,這個測試中還公佈國內的壁仞科技公司前不久發佈的BR100系列加速卡的性能,不過測試的不是滿血版的BR100,而是BR104,性能隻有BR100的一半。

在這個測試中,BR104的表現也不錯,隻不過測試項目不全面,無法得出準確評估結果,而且BR104的性能相比BR100減半,無法再現壁仞PPT中BR100吊打NVIDIA加速卡的場面。


相關推薦

2023-04-07

AI世界如今最大的贏傢是誰?毫無疑問是黃仁勛的NVIDIA,佈局早,技術強,根本找不到對手,“躺著”就可以掙大錢。現在,NVIDIA又公佈最新一代HopperH100計算卡在MLPerfAI測試中創造的新紀錄。Hopper H100早在2022年3月就發佈,GH100 GPU

2022-09-20

9月19日消息,傳全球GPU龍頭英偉達(NVIDIA)為滿足大陸客戶激增的需求,近期對臺積電下“超級急件(superhotruns)”訂單,計劃在美國管制其A100/H100GPU產品銷往大陸的緩沖期之內完成更多的交付。據悉,此次NVIDIA以“超級急件”

2024-03-20

B100控制在700W,和上代H100完全一致,B200則首次達到1000W。NVIDIA宣稱,Blackwell GPU能夠在10萬億參數的大模型上實現AI訓練和實時大語言模型推理。GB200 Grace Blackwell是繼Grace Hopper之後的新一代超級芯片(Superchip),從單顆GPU+單顆CPU升

2022-09-09

HPE、浪潮、Intel、Krai、聯想、Moffett、Nettrix、NeuralMagic、NVIDIA其中,NVIDIA表現依然亮眼,首次攜H100參加MLPerf測試,並在所有工作負載中刷新世界紀錄。H100打破世界記錄,較A100性能提升4.5倍NVIDIA於今年3月份發佈基於新架構NVIDIA Hop

2024-02-22

B左右的內存。即使完全忽略內存消耗,也需要305張Groq LPU加速卡才夠用。如果考慮到內存消耗,可能需要572張Groq LPU加速卡。官方數據顯示,Groq LPU的平均功耗為185W,即使不計算外圍設備的功耗,572張Groq LPU加速卡的總功耗也高

2023-12-07

成式AI的強勁需求。Instinct MI300X:1920億晶體管怪獸 完勝NVIDIA H100Instinct MI300X屬於傳統的GPU加速器方案,純粹的GPU設計,基於最新一代CDNA3計算架構。它集成八個XCD加速計算模塊(Accelerator Compute Die),每一個XCD擁有38個CU計算單元,

2023-05-11

積極反攻的又一證據。這臺超級計算機擁有大約 26,000 個 NVIDIA H100 Hopper GPU。作為參考,世界上最快的公共超級計算機Frontier擁有 37,000 個 AMD Instinct 250X GPU。對於我們最大的客戶,我們可以在單個集群中構建多達 26,000 個 GPU 的 A3

2023-12-07

芯片公司AMD推出新的所謂加速器芯片,將目標瞄準這個由英偉達控制的新興市場領域。據該公司稱,其產品能夠比競爭對手的產品更快地運行人工智能軟件。該公司周三在加利福尼亞州聖何塞舉行的活動上推出備受期待的MI300產

2024-03-19

持續至21號。先給不解GTC的玩傢介紹一下,GTC是關於AI的NVIDIA開發者大會,會議中你可以解如何利用AI、加速計算以及數據科學去塑造甚至是改變世界。今年的GTC峰會主題完全圍繞AI展開,2個小時的時間,老黃又一次帶來AI的變革

2023-11-14

NVIDIAGPU已經在AI、HPC領域遙遙領先,但沒有最強,隻有更強。現在,NVIDIA又發佈全新的HGXH200加速器,可處理AIGC、HPC工作負載的海量數據。NVIDIAH200的一大特點就是首發新一代HBM3e高帶寬內存(疑似來自SK海力士),單顆容量就多達141G

2023-04-02

大約一個月前,傳音宣佈將推出260W有限快充,以及110W無線快充,打破目前可量產的最高紀錄。近日,gsmarena公佈對該技術的實際測試,證明這一技術在實際表現上,與官方宣傳基本保持一致。在此次測試中,使用的是一臺基於

2022-08-23

有量產上市。相比之下,AMD三代霄龍處理器、Instinct MI250X加速卡組成的Frontier已經上線運行,並以1.6EFlops的性能,成為當今(公開的)超算之王。

2024-02-22

有著AI領域“最強賣鏟人”稱號的芯片巨頭英偉達真乃“又雙叒叕”公佈強勁無比的季度業績以及大幅超出市場預期的業績展望。隨著具有劃時代意義的生成式AI——ChatGPT橫空出世,意味著全球逐步邁入全新的AI時代,此後不僅

2022-09-21

9月20日深夜,萬眾期待的NVIDIARTX40系列顯卡終於來!首發宣佈的有三款,分別是RTX4090、RTX408016GB、RTX408012GB。RTX40系列基於全新設計的AdaLovelaceGPU架構,在性能、效率上都實現巨大的代際飛躍,無論是實時光線追蹤,還是AI神經網