N卡賣到25萬還缺貨 Intel直擊NVIDIA軟肋:AI性價比遠超H100


快科技7月15日消息,在AI市場上,NVIDIA現在是沒有對手的階段,AI顯卡份額估計在90%以上,AMD都很難競爭,現在Intel也加入這個市場,而且找到NVIDIA的一個痛點,那就是性價比。

NVIDIA目前受追捧的AI顯卡主要是A100、H100,國內有特供的閹割版A800、H800,性能比原版弱20%左右,但即便如此依然供不應求,A800一周時間就從9萬元漲到11萬元以上,H100價格在25萬元以上,H800也要20萬出頭,而且不同經銷商的價格差異很大。

Intel自然也不會放過這個市場,日前在國內舉行發佈會,也推出AI顯卡Habana Gaudi2,這是去年底發佈的AI推理加速芯片,從第一代的16nm工藝升級到7nm工藝,Tensor 處理器核心數量增至 24 個,同時集成多媒體處理引擎,內存升級至 96GB HBM2E。

國內版的Gaudi2主要是閹割部分網絡接口,但也集成21路100Gbps網絡接口,總體來說性能依然很可觀。

Intel還公佈Gaudi2跟H100的AI性能對比,面對要求極為苛刻的、1750億參數的GPT-3模型,384個Gaudi2加速器上的訓練時間僅為311.9分鐘,而且從256個加速器到384個加速器,性能擴展幅度達95%。

NVIDIA這邊在512塊 H100 GPU上的訓練時間則為64分鐘,論單卡性能的話是Gaudi2的3.6倍多,但是Intel不會跟H100拼極限性能,而是強調性價比。

Habana Labs 首席運營官 Eitan Medina 表示,性價比是影響H100和Gaudi2相對價值的重要考量因素,Gaudi2 服務器的成本要比H100低得多。

更重要的是,目前Gaudi2還沒有支持AI常用的FP8運算格式,這種情況下Gaudi2 在性價比上也勝過H100,今年3季度會升級支持FP8運算,Gaudi2的性能將有明顯飛躍,性價比要比H100更高。


相關推薦

2023-08-19

乘著人工智能熱潮,今年NVIDIA的AI計算卡真的賺瘋。快科技8月18日消息, 據Tomshardware報道,《巴倫周刊》資深撰稿人Tae Kim最近在社交媒體上發佈的帖子估計,NVIDIA每銷售一臺H100加速卡,就能獲得1000%的利潤。以美元來計算,一

2023-08-19

乘著人工智能熱潮,今年NVIDIA的AI計算卡真的賺瘋。快科技8月18日消息, 據Tomshardware報道,《巴倫周刊》資深撰稿人Tae Kim最近在社交媒體上發佈的帖子估計,NVIDIA每銷售一臺H100加速卡,就能獲得1000%的利潤。以美元來計算,一

2023-08-19

乘著人工智能熱潮,今年NVIDIA的AI計算卡真的賺瘋。快科技8月18日消息, 據Tomshardware報道,《巴倫周刊》資深撰稿人Tae Kim最近在社交媒體上發佈的帖子估計,NVIDIA每銷售一臺H100加速卡,就能獲得1000%的利潤。以美元來計算,一

2024-03-29

NVIDIA H100系列不但性價比更高,而且供貨充足,不會因為缺貨而加價。

2023-01-24

雖然RTX4090、RTX4080被吐槽價格貴,但NVIDIA的RTX40系列顯卡已經發佈到RTX4070系列,其中RTX4070Ti國內首傢6499元,比沒改名之前便宜700元,一躍成為N卡中性價比最高的。當NVIDIA玩起性價比,後果就是銷量無法阻擋,大受歡迎是沒跑的

2024-02-22

而使得其對於大模型的推理速度提高10倍以上,甚至超越NVIDIA的GPU。推理速度比GPU快10倍,功耗僅1/10據介紹,Groq的大模型推理芯片是全球首個LPU(Language Processing Unit)方案,是一款基於全新的TSA 架構的Tensor Streaming Processor (TSP)

2024-03-12

NVIDIA H100系列不但性價比更高,而且供貨充足,不會因為缺貨而加價。事實上,TensorWave自己也采購AMD MI300X。AMD Instinct系列產品其實已經發展很多代,但無論性能還是市場接受度都遠遜於對手。這一代的MI300X實現性能飛躍,相比H1

2023-05-15

致高性能GPU芯片需求大漲,NVIDIA又賺到一波,部分芯片要缺貨到年底,價格也在漲。有代理商透露,A100價格從去年12月開始上漲,截至今年4月上半月,其5個月價格累計漲幅達到37.5%;同期A800價格累計漲幅達20.0%。同時,GPU交貨

2024-03-29

NVIDIA H100系列不但性價比更高,而且供貨充足,不會因為缺貨而加價。

2023-08-28

交付周期長達3-6個月。價格更是一路走高,H100目前已經賣到3.5萬美元左右,而且很多時候是有錢也買不到。微博網友飯統戴老板”分析一下H100的物料硬件成本,並結合相關數據資料,提出一些有趣的觀點。H100的物料成本(BOM)包

2023-01-05

前兩天NVIDIA正式發佈RTX4070Ti顯卡,它實際上就是之前被取消的RTX408012GB顯卡,如今換個名字重新登場,不過NVIDIA這波良心一把,價格從899美元降低到799美元,國內售價是6499元起。從規格上來看,RTX 4070 Ti基於AD104核心,集成358億

2023-08-18

快科技8月17日消息,NVIDIA官網預告將於8月23日下午發佈截至7月底的24財年Q2財報,這次的業績將是創紀錄的。根據NVIDIA之前的預告,Q2營收將達到110億美元,上下浮動2%,美國通用會計準則下的毛利潤率預計在68.6%,上下浮動0.5個

2023-08-18

快科技8月17日消息,NVIDIA官網預告將於8月23日下午發佈截至7月底的24財年Q2財報,這次的業績將是創紀錄的。根據NVIDIA之前的預告,Q2營收將達到110億美元,上下浮動2%,美國通用會計準則下的毛利潤率預計在68.6%,上下浮動0.5個

2023-08-18

快科技8月17日消息,NVIDIA官網預告將於8月23日下午發佈截至7月底的24財年Q2財報,這次的業績將是創紀錄的。根據NVIDIA之前的預告,Q2營收將達到110億美元,上下浮動2%,美國通用會計準則下的毛利潤率預計在68.6%,上下浮動0.5個