Meta豪購35萬塊NVIDIA最強GPU H100:還在買AMD


快科技1月20日消息,NVIDIA AI GPU無疑是當下的硬通貨,從科技巨頭到小型企業都在搶。

Meta(Facebook) CEO紮克伯格近日就透露,為訓練下一代大語言模型Llama 3,Meta正在建造龐大的計算平臺,包括將在今年底前購買多達35萬塊NVIDIA H100 GPU。

屆時,再加上其他GPU,Meta擁有的總算力將相當於幾乎60萬塊H100!

根據市調機構Omdia的數據,Meta 2023年買多達15萬塊NVIDIA GPU,能與之媲美的隻有微軟,而亞馬遜、甲骨文、谷歌、騰訊等都隻拿到5萬塊左右。

SemiAccurate的首席分析師Dylan Patel指出,2024年第一季度,H100、H200、GH100、GH200、H20等基於最新Hopper架構的GPU出貨量有望達到77.3萬塊,第二季度增至81.1萬塊。

而在2023年第二季度,Hopper傢族GPU隻出貨大約30萬塊。

另外值得一提的是,Meta也在購買AMD最新的Instinct MI300系列GPU,但具體數量不詳。

微軟也是AMD Instinct的大客戶。


相關推薦

2023-12-04

據市場跟蹤公司Omdia的統計分析,英偉達在2023年第三季度大約賣出50萬臺H100和A100GPU,此前,Omdia通過英偉達第二季度的銷售額,估計其大概賣出900噸GPU。據英偉達財報顯示,在本財年第三季度,Nvidia在數據中心硬件上獲得145億美

2024-03-13

3月13日消息,美國時間周二,Facebook母公司Meta公佈兩個數據中心規模新集群的技術細節,它們各自擁有超過2.4萬個GPU,並在硬件、網絡、存儲、設計、性能和軟件等方面上,專為支持大型語言模型如Llama3進行訓練而深度優化。這

2023-12-07

Meta、OpenAI和微軟在本周三舉行的AMD投資者大會上,表示將使用AMD最新的人工智能芯片InstinctMI300X。此舉表明,科技界正在積極尋求昂貴的英偉達GPU的替代品。MI300X被業界寄予厚望,畢竟“天下苦英偉達久矣”,後者的旗艦GPU不僅

2023-11-14

0,並計劃在2024年將H100的產量增加兩倍,目標是生產200多萬塊H100。而在發佈會上,英偉達甚至全程沒有提任何競爭對手,隻是不斷強調“英偉達的AI超級計算平臺,能夠更快地解決世界上一些最重要的挑戰。”隨著生成式AI的大

2024-04-09

大眾開放這一技術。為此,Meta計劃在今年年底前獲得約35萬塊來自英偉達的H100 GPU,再算上其他GPU,公司擁有的算力總和將接近於60萬塊H100所能提供的算力。明星芯片H100的售價定在25000美元到30000美元之間,即使按照25000美元來計

2024-02-11

,也讓許多用戶抱怨API太慢。更嚴重的是,訓練GPT-5需要5萬塊H100。可以看出,Altman覺得與其花錢從英偉達買,不如幹脆自己造。早在去年12月,Altman就被曝出正在進行“芯片交易”,而這也疑似成為OpenAI宮鬥的導火索。當時有外

2024-03-14

場之外,Cerebras 取得成功的原因之一是它所做的事情與 NVIDIA 不同。NVIDIA、AMD、英特爾等公司采用大型臺積電晶圓並將其切成更小的部分來制造芯片,而 Cerebras 將晶圓保留在一起。在當今的集群中,可能有數以萬計的 GPU 或 AI 加

2024-02-10

據熟悉公司計劃的九位消息人士透露,NVIDIA正在建立一個新的業務部門,專註於為雲計算公司和其他公司設計定制芯片,包括先進的人工智能處理器。這傢全球占主導地位的人工智能芯片設計商和供應商的目標是在定制人工智能

2024-04-09

t;假設其他條件不變,這意味著特斯拉現在擁有 3 萬到 35 萬塊英偉達 H100 GPU。另一方面,xAI 現在可能擁有 2.6 萬到 3 萬塊英偉達AI計算卡。早在今年 1 月,埃隆-馬斯克(Elon Musk)在確認對特斯拉 Dojo 超級計算機投資 5 億美元(相

2024-02-10

小紮表示,目前Meta內部正在訓練下一代模型Llama 3。在35萬塊H100上訓練的Llama 3,無法想象會有多大!Omdia的研究數據顯示,Meta在2023年H100的出貨量為15萬塊,與微軟持平,且是其他公司出貨量的3倍。小紮稱,“如果算上英偉達A100

2024-02-22

有著AI領域“最強賣鏟人”稱號的芯片巨頭英偉達真乃“又雙叒叕”公佈強勁無比的季度業績以及大幅超出市場預期的業績展望。隨著具有劃時代意義的生成式AI——ChatGPT橫空出世,意味著全球逐步邁入全新的AI時代,此後不僅

2023-12-06

微軟和Meta位居榜首,雙雙從英偉達購買15萬塊H100GPU;騰訊購買5萬塊H800GPU,百度和阿裡巴巴分別購買3萬和2.5萬塊GPU。如果問一個模型開發人員,聖誕節最想要什麼禮物?他們的答案肯定是英偉達GPU。然而,英偉達GPU作為2023年最

2024-03-14

CoreWeave已經成為北美最大的以太坊“礦場”,擁有超過五萬塊GPU,占以太坊網絡總量的1%以上。通過將英偉達GPU用作“礦卡”,CoreWeave在加密貨幣領域賺到第一桶金。但在2018年之後,市場行情急轉直下,加密貨幣大幅貶值,與加

2024-03-12

NVIDIA AI GPU風頭無兩,公司市值全球第三,黃仁勛甚至聲稱對手免費也無法擊敗自己,但事實上,AMD MI300系列這一代還是可圈可點的,也吸引大量用戶。TensorWave對82名高級工程師、AI專傢進行的獨立調查顯示,大約50%的受訪者表