三星CXL全球首創 3D DRAM路線圖公佈


據報道,三星推出一款名為CXL分層內存混合內存模塊(CMM-HTM:CXLMemoryModule-HybridforTieredMemory)的新型ComputeExpressLink(CXL)附加卡,該卡添加可由CPU和加速器遠程訪問的額外RAM和閃存。

該擴展卡混合高速DRAM和NAND閃存,旨在提供一種經濟高效的方式來提高服務器的內存容量,而無需使用本地安裝的DDR5內存,而這在超額認購的服務器中通常是不可行的。

n2rE5oZH32Wk9LEarBke2L-970-80.jpg.webp

三星的解決方案在Compute Express Link (CXL)上運行,這是一種開放式行業標準,可在 CPU 和加速器之間提供緩存一致性互連,從而允許 CPU 使用與利用 CXL 的連接設備相同的內存區域。遠程存儲器(或者在本例中為混合 RAM/閃存設備)可通過 PCIe 總線訪問,但代價是大約 170-250 納秒的延遲,或者大約是 NUMA 跳的成本。

CXL 於 2019 年推出,目前處於第三個版本,支持 PCIe 6.0。

CXL 規范支持三種類型的設備:Type 1 設備是缺乏本地內存的加速器,Type 2 設備是具有自己內存的加速器(例如具有 DDR 或 HBM 的 GPU、FPGA 和 ASIC),Type 3 設備由內存設備組成。三星設備屬於 Type 3 類別。

CMM-H TM 是三星CMM-H CXL 內存解決方案的一個分支。三星表示,它是世界上第一個基於FPGA的分層 CXL 內存解決方案,旨在“應對內存管理挑戰,減少停機時間,優化分層內存的調度,並最大限度地提高性能,同時顯著降低總擁有成本。”

這種新的 CMM-H 速度不如 DRAM;然而,它通過閃存增加強大的容量,但通過擴展卡內置的巧妙的內存緩存功能隱藏大量延遲。熱數據被轉移到卡的 DRAM 芯片中以提高速度,而較少使用的數據則存儲在 NAND 存儲中。三星表示,這種行為會自動發生,但某些應用程序和工作負載可以通過 API 向設備發出提高性能的提示。當然,這會增加緩存數據的一些延遲,這並不適合所有用例,特別是那些依賴嚴格 99% 性能的用例。

三星的新型擴展卡將為客戶提供擴展服務器內存容量的新方法。隨著更先進的大型語言模型繼續要求其主機和加速器提供更多內存,這種新的設計范例變得越來越重要。

三星公佈3D DRAM規劃

全球最大的存儲芯片制造商三星電子公司計劃於2025年推出人工智能行業遊戲規則改變者三維(3D) DRAM,目前以規模較小的競爭對手SK海力士公司主導的全球人工智能半導體市場。

3D為主導的DRAM芯片通過垂直互連單元而不是像目前那樣水平放置它們,能將單位面積的容量增加三倍。相比之下,高帶寬內存(HBM)垂直互連多個DRAM芯片。據首爾的半導體行業消息知情人士周二透露,三星上個月在加利福尼亞州聖何塞舉行的全球芯片制造商聚會Memcon 2024上公佈其3D DRAM開發路線圖。

這傢總部位於韓國水原的巨頭計劃於2025年推出基於垂直溝道晶體管技術的早期版本3D DRAM,該技術在構成單元的晶體管中該垂直設置溝道(電子流動的通道),並用充當開關的門。公司還計劃在2030年推出一個式DRAM,將包括在內部的所有單元都在一起。

目前 DRAM 在主板上包含多達 620 億個單元,晶體管在平面上密集集成,這使得不可能避免漏電流和幹擾。由於 3D DRAM 中的晶體管由於可以在同一上放置更多單元,因此3D DRAM預計將增加單位芯片內的容量。

3D DRAM的基本容量為100 GB,幾乎是當前可用DRAM最大容量36 GB的三倍。有消息稱,到2030年,全球3D DRAM市場可能會增長到1000億美元,但由於市場仍處於起步階段AI半導體市場的領導者該技術有望幫助三星審視全球AI半導體行業的王座,擊敗目前在AI芯片領域主導地位的SK海力士,他們在AI應用的HBM、DRAM全球市場中占有90%的份額”業內人士表示。

盡管三星的競爭對手(包括SK海力士和美光科技公司)一直在研究該技術,但尚未公佈任何3D DRAM的路線圖。SK海力士在各個行業會議上介紹其3D DRAM的概念。美光於2019年開始開發3D DRAM,擁有約30項該技術專利,是三大芯片制造商中最多的。

十多年來,隨著智能手機等配備DRAM的電子設備變得更小、功能更多,全球DRAM行業一直在開發具有更大數據處理能力的更小芯片。人工智能的快速發展需要快速大規模處理數據,這一趨勢正在加劇。3DDRAM預計將滿足此類芯片的需求,因為它比現有的DRAM更小,容量更大。

短期內,新型半導體可能用於智能手機和筆記本電腦等小型信息技術設備,這些設備需要高性能 DRAM 來實現設備上的 AI 功能。汽車行業預計將長期使用 3D DRAM,因為電動汽車和自動駕駛汽車需要能夠實時處理從道路收集的 DRAM 的大數據。

三星正在開發主導3D DRAM領域的技術,以期到2027年至2028年將其關鍵尺寸縮小到8-9納米(nm)。最新的DRAM預計為12 nm左右。該公司還積極擴大3D DRAM研發人員隊伍它在其半導體研究中心針對該技術成立下一代工藝開發團隊。


相關推薦

2023-10-14

到Compute EXpress Link 3.0。爭奪CXL市場的核心自然就是DRAM,三星和SK海力士是全球第一和第二大存儲器廠商,自然不會錯過CXL這片新藍海”,目前都在積極開發CXL技術,以提高服務器DRAM銷量。CXL內存模塊理論上在服務器中可以實現

2022-09-20

N系列,主攻高能效的E系列。近日,Arm更新Neoverse系列的路線圖,V、E系列都有新成員亮相,而且都獲得多傢合作夥伴的青睞。首先是V系列,V1發佈於2021年4月,這是Arm的第一個支持SVE(可伸縮矢量擴展)內核,也創造Arm迄今為止最

2023-11-10

術的 128 GB RDIMM 的同時,該公司還為即將推出的產品制定路線圖。HDM 和 GDDR7 預計將主導對帶寬要求較高的應用,而 RDIMM、MCRDIMM 和 CXL 解決方案則將用於需要大容量的系統。LPDDR5X 和 LPCAMM2 解決方案最高可達 192 GB,預計最早將於

2022-09-19

導者,然而在14nm到10nm節點之間遇到問題,導致臺積電、三星追趕上來,並且率先量產EUV工藝,不過Intel也在努力反超,CEO制定的路線圖意味著他們隻要2年就能實現EUV工藝趕超臺積電、三星的計劃。Intel目前量產的工藝是Intel 7,

2022-07-29

傲騰存量客戶。有趣的是,Intel曾數次分享過傲騰迭代的路線圖,甚至前不久還有第三代傲騰持久內存、支持DDR5的“Crow Pass”偷跑,看來要埋入塵土……

2023-11-23

三星近期在中國香港舉行的“2023年投資者論壇”公佈一系列存儲領域的戰略,並表示為人工智能爆發時代做好準備。該公司的目標是到2025年主導汽車存儲市場,並計劃於2024年推出面向AI的相關產品,以滿足自動駕駛需求。根據

2024-03-18

HBM芯片規劃中,兩大重量級玩傢SK海力士(55%的市占)和三星(41%),此前正在HBM4中積極推進“混合鍵合”新工藝的開發。為何要采用混合鍵合?在此之前,讓我們先來解下HBM的標準發展情況。自2013年10月開始,JEDEC開始發佈HBM

2024-02-22

,英特爾公司推出英特爾代工服務(Intel Foundry),這是全球首傢面向人工智能時代的系統代工廠,在技術、彈性和可持續發展方面處於領先地位。(圖片來源:英特爾公司)這些消息是在英特爾的首次Foundry活動"Foundry Direct Con

2023-03-16

發展也遇到瓶頸,在20nm節點之後發展速度已經慢下來,三星在14nm節點就用上EUV光刻工藝,尋求進一步微縮。然而EUV光刻成本高昂不說,也沒法徹底改變內存芯片的技術難題,三星已經做到12nm工藝,再往後的內存工藝很難說,核

2024-04-03

告中寫道。Chowdhry表示,雖然芯片制造商,比如臺積電和三星電子也在積極探索3D堆疊技術,但英特爾似乎是領頭羊。Chowdhry表示,在美國政府提供的資金支持之下,英特爾有能力更快速開發領先全球的3D先進封裝工藝以及量產基

2022-07-26

在DDR5內存剛成為主流不久,如今三星又已經率先開始下一代DDR6內存的早期開發,並預計在2024年之前完成設計。據悉,在近日召開的研討會上,三星負責測試和系統封裝(TSP)的副總裁透露,隨著未來內存本身性能的擴大,封裝

2022-08-30

除銳龍7000處理器,AMD今天還公佈Zen架構路線圖,談到2024年之前的Zen4及Zen5架構,其中Zen4的遊戲增強版3DV-Cache版會用上臺積電4nm工藝,Zen5架構則會用上4nm及3nm工藝。這個Zen架構路線圖跟6月份分析師大會上公佈的路線圖是一樣的

2022-06-27

球已經安裝的EUV光刻機系統中,臺積電擁有瞭其中的55%。三星的實際控制人李在鎔日前則拜訪瞭荷蘭總統,以尋找更多的EUV供應。這再次說明,生產先進芯片必不可少的EUV成為瞭全球關註的目標。在日前的一些報道中,我們也看

2022-08-03

在加州聖克拉拉舉辦的2022閃存會峰會期間,三星電子隆重介紹下一代內存和一系列存儲技術。在《引領大數據時代內存創新》的主題演講上,該公司強調大數據市場在四個領域的技術進步——分別是數據的移動、存儲、處理和