AMD在2023年12月6日舉辦主題為“AdvancingAI”的活動,推出新一代針對數據中心的InstinctMI300系列計算卡。其中InstinctMI300X為純GPU設計,采用CDNA3架構,可為HPC和AI工作負載提供突破性的性能。
據Seeking Alpha報道,根據花旗集團的分析報告,顯示微軟的數據中心部門是Instinct MI300X的最大買傢,已開始為GPT-4這類大型語言模型(LLM)工作。此前AMD首席執行官蘇姿豐博士表示,AMD在2024年AI芯片的銷售額預計將達到35億美元,高於之前20億美元的預期。
雖然AMD沒有公開Instinct MI300X的定價,不過有知情人士透露,每塊計算卡的售價為1.5萬美元,相比於英偉達的產品是比較實惠的。目前H100 PCIe 80GB HBM2E版本在市場上的售價大概為3萬美元到4萬美元,甚至更高一些,而性能更強的H100 SXM5 80GB HBM3版本的定價則更高。花旗集團的分析師表示,Instinct MI300X的定價或僅為後者的四分之一。此前AMD首席執行官蘇姿豐博士表示,AMD在2024年AI芯片的銷售額預計將達到35億美元,高於之前20億美元的預期。
Instinct MI300X采用小芯片設計,混用5nm和6nm工藝,晶體管數量達到1530億個。其使用第四代Infinity Fabric解決方案,共有28個模塊芯片,其中包括8個HBM和4個計算芯片,而每個計算芯片擁有2個基於CDNA 3架構的GCD,共80個計算單元,意味著有320個計算單元和20480個流處理器。出於良品率的考慮,AMD削減部分計算單元,實際使用數量為304個計算單元和19456個流處理器。此外,HBM3容量達到192GB,提供5.3TB/s的內存帶寬和896GB/s的Infinity Fabric帶寬。