韓國人的HBM卡住英偉達的脖子?


還記得前不久的GTC大會吧,老黃公佈B200時的狀態,可比發佈什麼“破4090”嗨多。想買老黃顯卡的人,從這裡排到法國。但,就從世超看來,老黃還真不一定高枕無憂,至少它的脖子被韓國人狠狠卡著。例如老黃最新發佈的B200芯片上,就有多達4疊最新的HBM(高帶寬內存)內存芯片:HBM3e。

而這個東西,在這個星球上,目前基本上隻有韓國人能量產。


根據 Trendforce 數據,韓國的 SK 海力士和三星,他倆在 2023 年拿捏全球 90% 的 HBM 內存產能。

而兩年市面上的 AI 芯片,什麼 A100 A800 們,反正你能想到的,基本就沒誰能離開 HBM 內存。


所以,就在老黃的英偉達市值突破萬億的時候, SK 海力士的股價,也在去年偷偷翻一倍多,如今市值已經突破千億……


就連之前路線選擇錯誤的三星,股價也漲到近兩年最高的水平。

可能大傢對 HBM 內存技術有多重要還沒概念。

就這麼說吧,韓國在今年初已經把這個技術列為國傢戰略技術,想通過給 SK 海力士和三星稅收等方面的優惠,保持著自傢的領先地位。


甚至老黃在最新發佈的 B200 AI 芯片的同時,早就給 SK 海力士等幾百億人民幣定金,直接把這些廠今年一年的產量給包圓。

要知道, SK 海力士上個月底剛實現量產交付 HBM3e 內存,這不比隔壁小米 SU7 的大定猛多?


而這麼爽快的生意,可把隔壁三星饞壞,急急忙忙在 2 月份發佈自傢 HBM3e 樣品,立馬就發給滿世界客戶驗貨。


那為什麼 HBM 內存能這麼受歡迎呢?

這就不得不提內存技術長期以來的拉跨。

在信息化時代,無論是遊戲還是工作,電腦系統的運行速度其實是要靠處理器和內存的互相配合的。

理論上,如果這倆速度接近,那肯定是最佳拍檔

但過去的很長時間裡,處理器的性能指數式暴漲,內存和硬件之間的傳輸速度,卻壓根就跟不上。

在過去 20 年中,硬件的峰值計算能力增加90000 倍,但是內存和硬件互連帶寬卻隻是提高30 倍

打個不是很貼切的比方,處理器相當於是中華小當傢,內存就是邊上配菜的助手,小當傢技術再高,助手菜配不過來,上菜還是快不。

所以這些年,內存成拖累計算機性能的拖油瓶,甚至有人把這種現象稱為 “ 內存墻 ” 。


這些問題對於我們臭打遊戲的來說,還算能接受,畢竟現在用著 1066 打 3A 的人肯定還不少。

真讓他們忙不過來的,其實是這兩年的 AI 大爆發。因為 AI 大模型的基礎離不開海量的數據和算力,而要想支撐這麼大的數據處理和傳輸,就要打破 “ 內存墻 ” 。

換句話說,打遊戲對於小當傢來說是點四菜一湯,那隔壁 AI 隨便搞個訓練就相當於是要一桌滿漢全席。

所以對於 AI 大廠們來說,內存墻就像是鎖死自己發展水平的智子,而 HBM 就是那個破墻者。

和傳統的 DDR 內存采用的"平房設計"不同,破墻者 HBM 采用"樓房設計",來個降維打擊。


在芯片裡造樓,主要靠的是矽通孔( Through-Silicon Via , TSV )這種先進封裝技術。

簡單來說,就是把不同的芯片疊在一起,中間打一堆孔,然後用銅管等導電物質給接起來。


從物理意義上減小數據傳輸距離、占地面積等等。

這樣一來,就能減小信號延遲、實現芯片的低功耗、增加帶寬等等一堆優點。

隨著工藝水平提升, TSV 可以越做越小,密度越來越大,堆疊 Die 層數也能越來越多,就能進一步提升帶寬和傳輸速度以及最大容量。

前面提到三星最新產品,就已經是 12 層堆棧容量高達 36 GB 的 HBM3e 。


別看說起來這麼簡單,實際上, HBM 技術裡從材料、設計、封裝、散熱等等環節,都是難點。

而這些技術難點,大部分都是被韓國的 SK 海力士率先攻克的

所以,像 HBM3 和 HBM3e 也都是由 SK 海力士率先突破並實現量產。

到 HBM3 這一代,就已經實現高達 1024 位的數據路徑,運行速率也達到驚人的 6.4 Gb/s ,帶寬高達 819 Gb/s 。


而最新的 HBM3e ,其實是 HBM 內存技術傢族的第五代產品,它的最高數據處理速度已經達到每秒 1.18TB (太字節),相當於 1 秒內處理 200 多部全高清( FHD )級別的電影。

別看 HBM 賽道目前還有 SK 海力士、三星和美光禦三傢在玩,但無論是從發展時間、技術突破還是量產速度上, SK 海力士一直獨占鰲頭,光他們一傢就占領一半左右的市場份額。

排在身後的,則是同為韓國企業的三星,這傢夥今年又一口氣組建兩個 HBM 團隊想要追趕上進度。

而美國的美光雖然放出話來,自傢跳過研發 HBM3 ,直接成功完成 HBM3e 的研究。

甚至如今還成為英偉達的供貨商之一,但世超覺得,這麼大的口氣,還有待市場驗證。


所以,這麼捋下來,英偉達的 AI 軍火商計劃,還真得建立在這些 HBM 廠商的供貨上。

雖然大傢都在說, AI 界硬通貨是 H100 、是 B200 。

誰能想到,最終居然還被韓國卡著一道呢?


相關推薦

2024-03-22

計劃購買三星內存時,市場感到意外。他的講話推動這傢韓國市值最高公司的股價有望實現10%的周漲幅,創2015年以來最大。期權交易員則更為矛盾。本周,三星電子在兩個方向上的押註頭寸都激增,其中包括押註該股未來三個

2024-03-08

韓國科技業內人士認為,SKHynix已經向英偉達(NVIDIA)發送"12層DRAM堆疊HBM3E(第5代HBM)"原型樣品。根據ZDNet.co.kr的一篇文章,最初的樣品已於上個月發貨。2023 年年中的報道稱,NVIDIA在夏季前後獲得8 層 HBM3E(

2024-03-20

片,這是人工智能(AI)芯片的關鍵組件,三星試圖追趕韓國同行SK海力士,後者已開始大規模量產下一代HBM3E芯片。“HBM存儲非常復雜,附加值非常高。我們在HBM上投入大量資金。”英偉達聯合創始人兼CEO黃仁勛在加利福尼亞州

2024-03-13

造人工智能芯片的一項關鍵技術是全球最大的內存制造商韓國三星電子公司落後於本國和美國競爭對手的原因。高帶寬內存(HBM)芯片與華爾街人工智能寵兒英偉達(NVIDIA)公司設計的芯片一樣,都是人工智能革命的重要組成部

2023-11-14

當地時間周一,英偉達推出最新GPU芯片H200,消息公佈後,英偉達股價短線大漲,截至收盤漲0.6%,報486.2美元,接近8月31日創下的歷史收盤高點。同時,英偉達當日創下近7年以來的最長連漲記錄,“九連陽”累計上漲超19%。與競

2024-03-29

跡象表明,全球科技需求正在持續復蘇。根據最新數據,韓國2月份半導體產量創下14年來最大增幅,而半導體行業正是該國最重要的工業部門。韓國統計廳周五(3月29日)公佈的數據顯示,半導體產量較上年同期增長65.3%,為2009

2024-03-01

全力以赴,推進並確保芯片封裝的先進技術。Hana Micron是韓國頂尖的後端工藝公司,也是外包半導體組裝和測試(OSAT)公司。該公司目前正在開發一種2.5D封裝技術,可水平組裝不同類型的人工智能(AI)芯片,如高帶寬內存(HBM

2024-03-23

的HBM3E內存(或美光的另一種叫法,HBM3Gen2)是首批獲得英偉達最新H200/GH200加速器認證的內存之一,因此這傢DRAM制造商似乎將成為這傢處於風口上的公司的重要供應商。美光公司首席執行官 Sanjay Mehrotra 在本周財報電話會議的準

2024-04-08

三星已贏得客戶英偉達的2.5D封裝訂單。消息人士稱,該公司的高級封裝(AVP)團隊將向GPU制造商提供中介層和I-Cube(2.5D封裝)服務。而高帶寬存儲(HBM)和GPU晶圓生產將由其他公司負責。2.5D封裝將CPU、GPU、I/O、HBM等芯片水平放

2024-04-24

據韓國媒體報道,三星電子已與AMD簽署一項4.134萬億韓元(約合30億美元)的協議,為其提供12層高的HBM3E堆棧。AMD在其基於CDNA架構的人工智能和高性能計算加速器中使用HBM堆棧。這筆交易意義重大,因為如果分析師知道內存堆棧

2024-03-07

它是否通過與美國公司之間的“分工”來制衡半導體強國韓國。一位業內人士表示,“英特爾最近宣佈要超越三星,奪取代工市場全球第二名的雄心”,並補充道,“微軟(MS)已決定委托生產尖端芯片給英特爾,預計價格為 6.6

2023-12-06

據報道,三星公司訂購大量2.5D封裝設備,暗示這傢韓國巨頭可能會面臨英偉達(NVIDIA)等行業巨頭的巨大需求。三星最近宣佈推出SAINT技術,與臺積電的CoWoS封裝解決方案相抗衡,從而涉足人工智能領域。三星有望借此向業界提

2024-03-08

負責人LeeKang-Wook表示,這傢總部位於利川的公司今年將在韓國投資超過10億美元,以擴大和改進其芯片制造的最後步驟。該工藝的創新是 HBM 作為最受歡迎的 AI 內存的優勢的核心,進一步的進步將是降低功耗、提高性能和鞏固公

2023-11-27

詢最新HBM市場研究顯示,為更妥善且健全的供應鏈管理,英偉達正規劃加入更多的HBM供應商。其中,三星的HBM3(24GB)預期於今年12月在NVIDIA完成驗證。之前英偉達的HBM由SK海力士獨傢供應,如今三星、美光都將加入。這也意味著