NVIDIA找到新搖錢樹:加速卡靠ChatGPT輕松穩賺50億


ChatGPT最近火得一塌糊塗,也將AI人工智能推向新的高潮,而生成式AI需要海量的數據進行推理訓練,高算力的GPU加速卡自然成搶手貨。比如ChatGPT背後的GPT模型,其訓練參數在2018年約為1.2億個,到2020年就猛增到近1800億個,如今恐怕至少在萬億級別。

集邦咨詢估計,生成式AI對於GPU計算卡的需求量在2萬塊左右,未來將達到3萬塊。

這其中受益最多的,自然是NVIDIA,其旗艦級計算卡A100已經在為ChatGPT默默服務,有估算需要3萬塊才能滿足ChatGPT當前的訪問量。

A100計算卡單塊售價8-9萬元左右,3萬塊就是大約25個億。

但它往往不是單賣的,而是以DGX A100服務器整套方案的方式銷售,每套八塊計算卡,算力高達5PFlops(每秒5千萬億次浮點計算),相當於前幾年的一套大型超級計算機,是大規模數據分析、AI加速計算的幾乎不二之選。

DGX A100服務器單套售價約20萬美元,3萬塊卡下來就是大約7.5億美元,相當於人民幣超過50億元。

當然,AMD也有MI100、MI200系列加速卡,今年還會推出CPU+GPU融合的全新MI300,算力也很強,但市場份額遠不如NVIDIA。

另外,有數據顯示,GPT-3訓練一次的成本約為140萬美元,對於一些更大的LLM模型,訓練成本介於200萬美元至1200萬美元之間。


DGX A100服務器


相關推薦

2022-07-07

這麼先進的工藝,28nm工藝量產12年,現在依然是臺積電的搖錢樹之一。調研機構Stratagy Analytiscs公佈的統計數據顯示,28nm工藝自從2011年量產之後依然給臺積電貢獻相當多的營收,巔峰時期接近75億美元,近兩年來有所下滑,但依

2023-07-25

收入的30%交為傭金。而蘋果稅”也是蘋果公司貨真價實的搖錢樹,統計數據顯示,2020財年蘋果通過App Store獲取總收入約為723億美元,其中傭金和抽成(蘋果稅)收入約為217億美元,約合1400億人民幣。但近些年,開發者反對蘋果稅

2023-11-03

給公司股價帶來壓力。雖然公司在利潤端,仍是穩健的“搖錢樹”。但缺乏成長性的看點,將直接對公司的估值造成影響。以下是詳細分析一、整體業績:穩穩的賺錢1.1 收入端:2023財年第四季度(即3Q23)蘋果公司實現營收895億

2022-06-24

北京時間6月24日消息,抖音海外版TikTok風靡全球,這讓社交龍頭Facebook創始人馬克·紮克伯格(MarkZuckerberg)感到憂心忡忡。更讓他心煩的是,TikTok開始變現,分食Facebook和Google的廣告收入。張一鳴TikTok的創收潛力或許從一名普通用

2024-02-23

礎設施服務上得到幫助,也就是說不論企業大小,都可以找到適合的可擴展的一體化解決方案。此外,還有相關的充電軟件可以管理車輛充電時的狀態,比如避開峰值充電時間,減少能源費率,還能從單個帳戶監控和管理整個車

2024-03-06

訴 Altman、Brockman、OpenAI 和該公司的其他關聯公司,指控 ChatGPT 制造商違反最初的合同協議,追求利潤而非該非營利組織的創始使命--開發造福人類的人工智能。他說,OpenAI的成立是為與Google抗衡。馬斯克在訴訟中說,OpenAI 的創

2023-02-09

2月9日消息,隨著微軟發佈ChatGPT支持的新必應,以及谷歌緊隨其後發佈Bard,科技領域的AI搜索大戰已正式打響。對於微軟來說,此舉代表著增加巨額收入。微軟推出新必應不僅是為吸引谷歌搜索用戶,還想搶走其廣告商。在價值

2023-03-22

何運作的。‘重點’毫無疑問是生成式AI。老黃對OpenAI的ChatGPT贊不絕口,誇它“震驚世界”,代表著“嶄新的計算平臺已經誕生,AI的‘iPhone時刻’已經到來”。據英偉達透露,OpenAI將在微軟Azure超級計算機上使用英偉達H100 GPU,

2022-10-24

在的經濟衰退嚇壞廣告商,推特的收入可能會下降。變成搖錢樹盡管馬斯克在5月份的融資計劃書中提出在2023年裁員的可能性,但當時沒有跡象表明他可能會解雇5000多名員工。莫加拉比估計,推特潛在收入的放緩以及為馬斯克收

2023-02-25

曾經信誓旦旦的超跑品牌,也紛紛放下身段,投入SUV這課搖錢樹的門下。2月25日,有海外媒體曝光一組邁凱倫全新SUV車型的效果圖,據稱,該車是邁凱倫品牌首款高性能SUV,並已開始研發,同時新車還將成為該品牌旗下的首款純

2023-04-11

NVIDIA的加速顯卡,達到ChatGPT這種級別的至少需要1萬張A100加速卡。國內當前能滿足ChatGPT級別算力的廠商不多,主要有商湯、百度、騰訊、字節、阿裡和幻方,他們之前儲備大量加速卡。由於需求增多,NVIDIA的加速卡現在也成香

2023-01-30

ChatGPT火,這個AI人工智能讓不少巨頭們紛紛下訂單,而老黃也是瞬間賣出1萬顆高端的顯卡。據產業鏈消息稱,蘋果、AMD、NVIDIA在AI領域競爭白熱化,傳出近期同步對臺積電下急單,相關芯片將在4月後逐步產出。業界提到,從算

2023-03-03

率上升意味著繼續在虧損項目上支出所需的投資越來越難找到,大型科技公司正在緊縮開支以保護他們的核心業務。所以我認為,你會看到他們接連不斷地削減甚至完全放棄登月計劃。”對於這些公司來說,放棄登月夢想標志著

2023-07-28

科技7月27日消息,今年的AI爆發意外引爆AI顯卡的需求,NVIDIA可以說是今年賺最多的公司,靠AI實現萬億美元的市值,現在股價也停不下來。由於需求突漲,NVIDIA的AI顯卡價格也一路狂飆,之前幾萬、十幾萬的AI顯卡現在漲上天。