單價25萬起步 GPT-5被指需要5萬張H100顯卡才能訓練:NVIDIA賺麻


快科技8月7日消息,盡管OpenAI CEO之前否認,但業界還是相信他們已經在訓練GPT-5大模型,規模將是GPT-4的10倍以上,但這也意味著更燒錢,尤其是用於訓練AI的顯卡極為稀缺。

全球這麼多搞AI大模型的,到底用多少AI顯卡是各傢的秘密,很少公開準確數據,GPT-4猜測是在10000-25000張A100顯卡上訓練的,GPT-5所需的顯卡還是迷,馬斯克估計的是30000-50000張H100顯卡,性能強得多。

除OpenAI之外,其他公司對高性能AI顯卡的需求也居高不下,Meta、谷歌、微軟、蘋果、特斯拉及馬斯克自己都在搞各種AI,預測總需求高達43.2萬張H100顯卡,價值超過150億美元。

這還隻是國外網友分析的美國科技行業需求,實際上國內的需求不比美國少,即便隻能購買特供版的A800、H800加速卡,但這沒有妨礙國內公司投身AI大模型,不惜加價搶購AI顯卡。

在當前的市場上,隻有NVIDIA才能滿足AI顯卡的需求,AMD及Intel的AI顯卡不僅性能、生態上存在問題,而且供貨也跟不上,AMD的大殺器MI300X要到年底才能出貨,2024年才能大批量上市。

歸根到底,這波又是NVIDIA賺麻,AI顯卡的需求將持續到2024年底,這一年半中都是供不應求的情況,H100顯卡售價25萬元起步,加價的話就難說,漲幅波動很大。


相關推薦

2024-03-27

10萬個H100訓練集群,整個電網卻被搞崩。通往AGI大關,還需要破解電力難題。GPT-6也被電力卡脖子——部署十萬個H100時,整個電網發生崩潰!就在剛剛,微軟工程師爆料,10萬個H100基建正在緊鑼密鼓地建設中,目的就是訓練GPT-6

2023-08-22

,當代高性能芯片,包括CPU及GPU,研發投入都是10億美元起步的,光是先進工藝設計到流片的費用就價值不菲。

2023-08-22

,當代高性能芯片,包括CPU及GPU,研發投入都是10億美元起步的,光是先進工藝設計到流片的費用就價值不菲。

2023-08-22

,當代高性能芯片,包括CPU及GPU,研發投入都是10億美元起步的,光是先進工藝設計到流片的費用就價值不菲。

2023-07-25

樹,他們在算力資源上不會受到限制,GPT-4的訓練就使用2萬張NVIDIA的AI顯卡訓練。但是萬張顯卡級別的算力還不是終點,今年也投身AI創業的前搜狗CEO王小川日前在采訪中透露OpenAI的動向,提到後者正在做更先進的訓練方法,設

2023-08-18

NVIDIA今年將出貨55萬塊H100顯卡,單卡售價25萬元起步,訂單價值上千億。而且NVIDIA的AI顯卡供不應求,現在的訂單都排到2024年,國內的用戶要到明年Q1季度才能交付,這意味著接下來2-3個季度的業績也是不發愁的。不僅AI顯卡無人

2023-08-18

NVIDIA今年將出貨55萬塊H100顯卡,單卡售價25萬元起步,訂單價值上千億。而且NVIDIA的AI顯卡供不應求,現在的訂單都排到2024年,國內的用戶要到明年Q1季度才能交付,這意味著接下來2-3個季度的業績也是不發愁的。不僅AI顯卡無人

2023-08-18

NVIDIA今年將出貨55萬塊H100顯卡,單卡售價25萬元起步,訂單價值上千億。而且NVIDIA的AI顯卡供不應求,現在的訂單都排到2024年,國內的用戶要到明年Q1季度才能交付,這意味著接下來2-3個季度的業績也是不發愁的。不僅AI顯卡無人

2023-04-11

後,國內外多傢科技巨頭都在推出自己的AI大模型,這就需要龐大的AI算力支撐,這方面還是得靠NVIDIA的加速顯卡,達到ChatGPT這種級別的至少需要1萬張A100加速卡。國內當前能滿足ChatGPT級別算力的廠商不多,主要有商湯、百度、

2023-11-10

士這樣解釋新的H20芯片,“比如,原先用H100跑一個任務需要20天,如今H20再跑可能要100天。”盡管美國發佈新一輪芯片限制措施,但英偉達似乎並沒有放棄中國巨大的 AI 算力市場。那麼,國產芯片是否可以替代?經過測試,目

2023-05-15

周期也被拉長,之前拿貨周期大約為一個月,現在基本都需要三個月或更長,部分新訂單“可能要到12月才能交付”。此前也有消息稱,NVIDIA已經緊急向臺積電增加先進封裝產能,不過現在還是供不應求的狀態。據統計NVIDIA當前

2023-11-03

片,但隻是放在倉庫裡積灰生銹,並未使用。而且,由於起步晚、迭代慢、效率低,即便價格更便宜,但國產AI芯片推向市場將產生巨大的試錯成本。摩爾定律在當今的半導體產業日漸失效,可產品依然跟隨市場進行升級換代,

2023-04-06

ChatGPT這樣的生成式AI不僅需要千億級的大模型,同時還需要有龐大的算力基礎,訓練AI現在主要依賴NVIDIA的AI加速卡,達到ChatGPT這種級別的至少需要1萬張A100加速卡。高性能加速顯卡現在是稀缺資源,國內購買NVIDIA高端顯卡更是

2023-07-16

月15日消息,在AI市場上,NVIDIA現在是沒有對手的階段,AI顯卡份額估計在90%以上,AMD都很難競爭,現在Intel也加入這個市場,而且找到NVIDIA的一個痛點,那就是性價比。NVIDIA目前受追捧的AI顯卡主要是A100、H100,國內有特供的閹割