單卡功耗可達1400W 黃仁勛:下代GPU服務器必須水冷


NVIDIACEO黃仁勛在近日的2024SIEPR經濟峰會上透露,下一代DGXGPU服務器將會采用水冷散熱,整個系統非常壯觀(magnificent)、非常迷人(beautiful)。黃仁勛還提到,新一代DGX服務器很快就會到來,暗示著BlacwellB100GPU加速卡距離發佈已經不遠——官方隻說2024年內,消息稱已提前到二季度。

戴爾此前的一次會議中確認,NVIDIA明年還會推出升級版B200 GPU,最高功耗可達1000W,甚至有說法稱會有恐怖的1400W!

NVIDIA目前的主力AI GPU H100和升級版H200最大功耗為700W,核心面積814平方毫米,均隻需風冷。

AMD MI300X則需要750W,但是面積也更大一些達到1017平方毫米。

現如今,服務器和數據中心使用浸沒式液冷散熱已經稀松平常,但也有很多專傢對這種發展途徑吃反對態度。

Moor Insights & Strategy的創始人、CEO兼首席分析師Patrick Moorhead就明確提出,為提高性能,並控制合理的功耗、發熱,我們已經窮盡手段,但接下來該怎麼辦?上液氮嗎?是時候重新思考。


相關推薦

2024-05-03

,不過這兩傢廠商暫時對英偉達不會有任何實質性威脅。黃仁勛之前已經預警:英偉達預計下一代GPU產品的供應會非常緊張,因為需求遠遠超過供應能力。”

2024-03-20

他還有RAS可靠性專用引擎、安全AI、解壓縮引擎等。至於功耗,B100控制在700W,和上代H100完全一致,B200則首次達到1000W。NVIDIA宣稱,Blackwell GPU能夠在10萬億參數的大模型上實現AI訓練和實時大語言模型推理。GB200 Grace Blackwell是繼Gr

2023-11-01

偉達的宣傳,該處理器圖形性能最高可達Tegra 2 的 3 倍,功耗卻比後者低 61%。這款處理器的性能可以說是秒天秒地秒空氣,把蘋果、高通和三星等廠商統統掃落一邊,在部分人看來,上一代Tegra 2隻是在平板市場小試牛刀,Tegra 3

2023-06-16

開英偉達的人工智能(AI)芯片,而英偉達的成功則離不開黃仁勛對AI的豪賭。早在十多年前,黃仁勛就賭定英偉達的計算機芯片可以成為AI的“大腦”。當黃仁勛第一次試用ChatGPT時,他讓這款聊天機器人寫一首關於英偉達的詩。“

2024-04-15

4月14日消息,近期,英偉達CEO黃仁勛接受美國CNBC知名主持人、股評人吉姆·克萊默(JimCramer)主持的《MadMoney》節目訪談。克萊默是英偉達的早期支持者,也是黃仁勛的長期粉絲。克萊默在對談之後表示,黃仁勛是一個比馬斯克

2023-03-22

技術盛會、一年一度的英偉達GTC大會如期而至!英偉達CEO黃仁勛(昵稱“老黃”)一如既往穿著標志性的皮衣進行78分鐘演講,滿面笑容地分享英偉達又悶聲幹哪些大事。總體來看,此次演講可總結成一大‘亮點’和一大‘重點

2022-10-04

兩個問題,一個是價格、性能都在大幅提升,另一個就是功耗越來越誇張,散熱壓力大增,這事對普通消費者來說還能湊合接受,但對企業級用戶來說,散熱問題直接關系運營成本。Intel即將推出的第四代至強可擴展處理器代號S

2024-03-30

行官黃仁勛(Jensen Huang)本人強調的那樣,NVIDIA新芯片的功耗數字已經突破天花板,因此有必要摒棄傳統的冷卻系統。因此,我們可以期待英偉達的 Blackwell AI GPU 和服務器在明年的某個時候面世,屆時我們就能清楚地看到該產品

2024-02-24

最近,《連線》的記者采訪英偉達CEO黃仁勛。記者表示,與JensenHuang交流應該帶有警告標簽,因為這位NVIDIA首席執行官對人工智能的發展方向如此投入,以至於在經過近90分鐘的熱烈交談後,我(指代本采訪的記者,下同)確信

2023-03-08

術現在處於人工智能蓬勃發展的中心。英偉達首席執行官黃仁勛(Jensen Huang )曾表示:“我們很早地,大約在10年前就發現,這種制作軟件的方式可以改變一切。我們從底層一直到頂層,從各個角度改變公司。我們生產的每一個

2022-08-25

功耗,開源的AV1硬件編碼器還能節省30%以上的帶寬。它單卡即可支持多達36路視頻流的1080p60轉碼吞吐量、8路視頻流的4K60轉碼吞吐量。在4U服務器中擴展到10卡配置時,可以支持多達360路視頻流的H.265-H.265 1080p60轉碼吞吐量。搭配

2024-03-21

個。”面對這個多少有點戲謔的問題,英偉達創始人、CEO黃仁勛遲疑片刻,非常認真地回答出來。當地時間 3 月 19 日,以堪比流行巨星的熱度完成 GTC 2024 的開場演講後第二天,黃仁勛接受全球媒體采訪。黃仁勛給在場媒體重新

2024-02-23

AI芯片,但英偉達的優勢依然無可撼動。華爾街更是盛贊黃仁勛比馬斯克更具遠見。全球最受矚目股票自從OpenAI發佈ChatGPT,開啟生成式AI時代之後,英偉達就成為不折不扣的AI龍頭股。在OpenAI引領生成式AI技術升級的同時,英偉達

2024-03-19

,英偉達將於GTC大會公佈的新一代AI芯片,以及英偉達CEO黃仁勛發表的關於AI領域最新研究以及應用進展的講話,將是他們押註英偉達一周內股價翻番的最重要催化劑。在美東時間3月18日(北京時間3月19日凌晨),英偉達創始人黃仁