快科技7月15日消息,在AI市場上,NVIDIA現在是沒有對手的階段,AI顯卡份額估計在90%以上,AMD都很難競爭,現在Intel也加入這個市場,而且找到NVIDIA的一個痛點,那就是性價比。
NVIDIA目前受追捧的AI顯卡主要是A100、H100,國內有特供的閹割版A800、H800,性能比原版弱20%左右,但即便如此依然供不應求,A800一周時間就從9萬元漲到11萬元以上,H100價格在25萬元以上,H800也要20萬出頭,而且不同經銷商的價格差異很大。
Intel自然也不會放過這個市場,日前在國內舉行發佈會,也推出AI顯卡Habana Gaudi2,這是去年底發佈的AI推理加速芯片,從第一代的16nm工藝升級到7nm工藝,Tensor 處理器核心數量增至 24 個,同時集成多媒體處理引擎,內存升級至 96GB HBM2E。
國內版的Gaudi2主要是閹割部分網絡接口,但也集成21路100Gbps網絡接口,總體來說性能依然很可觀。
Intel還公佈Gaudi2跟H100的AI性能對比,面對要求極為苛刻的、1750億參數的GPT-3模型,384個Gaudi2加速器上的訓練時間僅為311.9分鐘,而且從256個加速器到384個加速器,性能擴展幅度達95%。
NVIDIA這邊在512塊 H100 GPU上的訓練時間則為64分鐘,論單卡性能的話是Gaudi2的3.6倍多,但是Intel不會跟H100拼極限性能,而是強調性價比。
Habana Labs 首席運營官 Eitan Medina 表示,性價比是影響H100和Gaudi2相對價值的重要考量因素,Gaudi2 服務器的成本要比H100低得多。
更重要的是,目前Gaudi2還沒有支持AI常用的FP8運算格式,這種情況下Gaudi2 在性價比上也勝過H100,今年3季度會升級支持FP8運算,Gaudi2的性能將有明顯飛躍,性價比要比H100更高。