三星2月27日宣佈開發出業界首款12層堆疊HBM3E12H高帶寬存儲芯片,這也是迄今為止容量最高的HBM產品,達36GB,帶寬高達1280GB/s。與8層堆疊HBM3產品相比,這款新品在容量、帶寬方面都提高50%以上,可顯著提高人工智能(AI)訓練、推理速度。
三星電子存儲產品規劃執行副總裁Yongcheol Bae表示,業界AI服務供應商越來越需要更高容量的HBM,而我們開發的全新HBM3E 12H產品正是為滿足這一需求設計的。
技術方面,三星HBM3E 12H采用先進的熱壓非導電薄膜(TC NCF),使12層產品具有與8層HBM芯片相同的高度,以滿足當前HBM封裝要求。該技術預計將在未來帶來更多優勢,特別是更高層數堆疊方面,因為業界正在努力減輕芯片裸片變薄帶來的翹曲問題。三星不斷降低NCF材料的厚度,並實現當前業界最小的芯片間隙(7微米),同時消除層間空隙。與此前的HBM3 8H產品相比,新技術的進步使得垂直密度提高20%以上。
三星表示,TC NCF技術還能夠通過在芯片之間使用不同大小的凸塊,來改善HBM的熱性能。在芯片鍵合層面,較小的凸塊用於信號傳輸區域,而較大的凸塊用於需要散熱的區域;該方法還有助於提高產品產量。
集微網解到,英偉達目前的H200旗艦AI芯片宣佈采用HBM3E存儲,下一代B100預計將同樣采用HBM3E,目前三大存儲芯片巨頭三星、SK海力士、美光均重點發力HBM。
三星表示,HBM3E 12H將成為未來最佳解決方案,並降低數據中心總成本(TCO)。性能方面,新產品與HBM3 8H相比,人工智能訓練平均速度可提高34%,用於推理服務支持的用戶數量最高可增加11.5倍以上。
目前三星已開始向客戶提供HBM3E 12H樣品,計劃於今年上半年量產。