據報道，三星推出一款名為CXL分層內存混合內存模塊(CMM-HTM：CXLMemoryModule-HybridforTieredMemory)的新型ComputeExpressLink(CXL)附加卡，該卡添加可由CPU和加速器遠程訪問的額外RAM和閃存。
該擴展卡混合高速DRAM和NAND閃存，旨在提供一種經濟高效的方式來提高服務器的內存容量，而無需使用本地安裝的DDR5內存，而這在超額認購的服務器中通常是不可行的。
三星的解決方案在Compute Express Link (CXL)上運行，這是一種開放式行業標準，可在 CPU 和加速器之間提供緩存一致性互連，從而允許 CPU 使用與利用 CXL 的連接設備相同的內存區域。遠程存儲器（或者在本例中為混合 RAM/閃存設備）可通過 PCIe 總線訪問，但代價是大約 170-250 納秒的延遲，或者大約是 NUMA 跳的成本。
CXL 於 2019 年推出，目前處於第三個版本，支持 PCIe 6.0。
CXL 規范支持三種類型的設備：Type 1 設備是缺乏本地內存的加速器，Type 2 設備是具有自己內存的加速器（例如具有 DDR 或 HBM 的 GPU、FPGA 和 ASIC），Type 3 設備由內存設備組成。三星設備屬於 Type 3 類別。
CMM-H TM 是三星CMM-H CXL 內存解決方案的一個分支。三星表示，它是世界上第一個基於FPGA的分層 CXL 內存解決方案，旨在“應對內存管理挑戰，減少停機時間，優化分層內存的調度，並最大限度地提高性能，同時顯著降低總擁有成本。”
這種新的 CMM-H 速度不如 DRAM；然而，它通過閃存增加強大的容量，但通過擴展卡內置的巧妙的內存緩存功能隱藏大量延遲。熱數據被轉移到卡的 DRAM 芯片中以提高速度，而較少使用的數據則存儲在 NAND 存儲中。三星表示，這種行為會自動發生，但某些應用程序和工作負載可以通過 API 向設備發出提高性能的提示。當然，這會增加緩存數據的一些延遲，這並不適合所有用例，特別是那些依賴嚴格 99% 性能的用例。
三星的新型擴展卡將為客戶提供擴展服務器內存容量的新方法。隨著更先進的大型語言模型繼續要求其主機和加速器提供更多內存，這種新的設計范例變得越來越重要。
全球最大的存儲芯片制造商三星電子公司計劃於2025年推出人工智能行業遊戲規則改變者三維(3D) DRAM，目前以規模較小的競爭對手SK海力士公司主導的全球人工智能半導體市場。
3D為主導的DRAM芯片通過垂直互連單元而不是像目前那樣水平放置它們，能將單位面積的容量增加三倍。相比之下，高帶寬內存（HBM）垂直互連多個DRAM芯片。據首爾的半導體行業消息知情人士周二透露，三星上個月在加利福尼亞州聖何塞舉行的全球芯片制造商聚會Memcon 2024上公佈其3D DRAM開發路線圖。
這傢總部位於韓國水原的巨頭計劃於2025年推出基於垂直溝道晶體管技術的早期版本3D DRAM，該技術在構成單元的晶體管中該垂直設置溝道（電子流動的通道），並用充當開關的門。公司還計劃在2030年推出一個式DRAM，將包括在內部的所有單元都在一起。
目前 DRAM 在主板上包含多達 620 億個單元，晶體管在平面上密集集成，這使得不可能避免漏電流和幹擾。由於 3D DRAM 中的晶體管由於可以在同一上放置更多單元，因此3D DRAM預計將增加單位芯片內的容量。
3D DRAM的基本容量為100 GB，幾乎是當前可用DRAM最大容量36 GB的三倍。有消息稱，到2030年，全球3D DRAM市場可能會增長到1000億美元，但由於市場仍處於起步階段AI半導體市場的領導者該技術有望幫助三星審視全球AI半導體行業的王座，擊敗目前在AI芯片領域主導地位的SK海力士，他們在AI應用的HBM、DRAM全球市場中占有90%的份額”業內人士表示。
盡管三星的競爭對手（包括SK海力士和美光科技公司）一直在研究該技術，但尚未公佈任何3D DRAM的路線圖。SK海力士在各個行業會議上介紹其3D DRAM的概念。美光於2019年開始開發3D DRAM，擁有約30項該技術專利，是三大芯片制造商中最多的。
十多年來，隨著智能手機等配備DRAM的電子設備變得更小、功能更多，全球DRAM行業一直在開發具有更大數據處理能力的更小芯片。人工智能的快速發展需要快速大規模處理數據，這一趨勢正在加劇。3DDRAM預計將滿足此類芯片的需求，因為它比現有的DRAM更小，容量更大。
短期內，新型半導體可能用於智能手機和筆記本電腦等小型信息技術設備，這些設備需要高性能 DRAM 來實現設備上的 AI 功能。汽車行業預計將長期使用 3D DRAM，因為電動汽車和自動駕駛汽車需要能夠實時處理從道路收集的 DRAM 的大數據。
三星正在開發主導3D DRAM領域的技術，以期到2027年至2028年將其關鍵尺寸縮小到8-9納米(nm)。最新的DRAM預計為12 nm左右。該公司還積極擴大3D DRAM研發人員隊伍它在其半導體研究中心針對該技術成立下一代工藝開發團隊。