還記得前不久的GTC大會吧,老黃公佈B200時的狀態,可比發佈什麼“破4090”嗨多。想買老黃顯卡的人,從這裡排到法國。但,就從世超看來,老黃還真不一定高枕無憂,至少它的脖子被韓國人狠狠卡著。例如老黃最新發佈的B200芯片上,就有多達4疊最新的HBM(高帶寬內存)內存芯片:HBM3e。
而這個東西,在這個星球上,目前基本上隻有韓國人能量產。
根據 Trendforce 數據,韓國的 SK 海力士和三星,他倆在 2023 年拿捏全球 90% 的 HBM 內存產能。
而兩年市面上的 AI 芯片,什麼 A100 A800 們,反正你能想到的,基本就沒誰能離開 HBM 內存。
所以,就在老黃的英偉達市值突破萬億的時候, SK 海力士的股價,也在去年偷偷翻一倍多,如今市值已經突破千億……
就連之前路線選擇錯誤的三星,股價也漲到近兩年最高的水平。
可能大傢對 HBM 內存技術有多重要還沒概念。
就這麼說吧,韓國在今年初已經把這個技術列為國傢戰略技術,想通過給 SK 海力士和三星稅收等方面的優惠,保持著自傢的領先地位。
甚至老黃在最新發佈的 B200 AI 芯片的同時,早就給 SK 海力士等幾百億人民幣定金,直接把這些廠今年一年的產量給包圓。
要知道, SK 海力士上個月底剛實現量產交付 HBM3e 內存,這不比隔壁小米 SU7 的大定猛多?
而這麼爽快的生意,可把隔壁三星饞壞,急急忙忙在 2 月份發佈自傢 HBM3e 樣品,立馬就發給滿世界客戶驗貨。
那為什麼 HBM 內存能這麼受歡迎呢?
這就不得不提內存技術長期以來的拉跨。
在信息化時代,無論是遊戲還是工作,電腦系統的運行速度其實是要靠處理器和內存的互相配合的。
理論上,如果這倆速度接近,那肯定是最佳拍檔。
但過去的很長時間裡,處理器的性能指數式暴漲,內存和硬件之間的傳輸速度,卻壓根就跟不上。
在過去 20 年中,硬件的峰值計算能力增加90000 倍,但是內存和硬件互連帶寬卻隻是提高30 倍。
打個不是很貼切的比方,處理器相當於是中華小當傢,內存就是邊上配菜的助手,小當傢技術再高,助手菜配不過來,上菜還是快不。
所以這些年,內存成拖累計算機性能的拖油瓶,甚至有人把這種現象稱為 “ 內存墻 ” 。
這些問題對於我們臭打遊戲的來說,還算能接受,畢竟現在用著 1066 打 3A 的人肯定還不少。
真讓他們忙不過來的,其實是這兩年的 AI 大爆發。因為 AI 大模型的基礎離不開海量的數據和算力,而要想支撐這麼大的數據處理和傳輸,就要打破 “ 內存墻 ” 。
換句話說,打遊戲對於小當傢來說是點四菜一湯,那隔壁 AI 隨便搞個訓練就相當於是要一桌滿漢全席。
所以對於 AI 大廠們來說,內存墻就像是鎖死自己發展水平的智子,而 HBM 就是那個破墻者。
和傳統的 DDR 內存采用的"平房設計"不同,破墻者 HBM 采用"樓房設計",來個降維打擊。
在芯片裡造樓,主要靠的是矽通孔( Through-Silicon Via , TSV )這種先進封裝技術。
簡單來說,就是把不同的芯片疊在一起,中間打一堆孔,然後用銅管等導電物質給接起來。
從物理意義上減小數據傳輸距離、占地面積等等。
這樣一來,就能減小信號延遲、實現芯片的低功耗、增加帶寬等等一堆優點。
隨著工藝水平提升, TSV 可以越做越小,密度越來越大,堆疊 Die 層數也能越來越多,就能進一步提升帶寬和傳輸速度以及最大容量。
前面提到三星最新產品,就已經是 12 層堆棧容量高達 36 GB 的 HBM3e 。
別看說起來這麼簡單,實際上, HBM 技術裡從材料、設計、封裝、散熱等等環節,都是難點。
而這些技術難點,大部分都是被韓國的 SK 海力士率先攻克的。
所以,像 HBM3 和 HBM3e 也都是由 SK 海力士率先突破並實現量產。
到 HBM3 這一代,就已經實現高達 1024 位的數據路徑,運行速率也達到驚人的 6.4 Gb/s ,帶寬高達 819 Gb/s 。
而最新的 HBM3e ,其實是 HBM 內存技術傢族的第五代產品,它的最高數據處理速度已經達到每秒 1.18TB (太字節),相當於 1 秒內處理 200 多部全高清( FHD )級別的電影。
別看 HBM 賽道目前還有 SK 海力士、三星和美光禦三傢在玩,但無論是從發展時間、技術突破還是量產速度上, SK 海力士一直獨占鰲頭,光他們一傢就占領一半左右的市場份額。
排在身後的,則是同為韓國企業的三星,這傢夥今年又一口氣組建兩個 HBM 團隊想要追趕上進度。
而美國的美光雖然放出話來,自傢跳過研發 HBM3 ,直接成功完成 HBM3e 的研究。
甚至如今還成為英偉達的供貨商之一,但世超覺得,這麼大的口氣,還有待市場驗證。
所以,這麼捋下來,英偉達的 AI 軍火商計劃,還真得建立在這些 HBM 廠商的供貨上。
雖然大傢都在說, AI 界硬通貨是 H100 、是 B200 。
誰能想到,最終居然還被韓國卡著一道呢?