臺積電:HPC芯片功率密度推動行業對1kW+散熱系統需求增長


近年來,超算等高性能系統的功率密度,始終保持著高速增長。不過臺積電在其年度技術研討會上表示——計算領域的一個明顯趨勢,就是每個芯片和機架單元的功耗,並不會坐等受到傳統風冷散熱的限制。顯然,晶體管功耗的降低,並沒有其尺寸縮減那樣快。由於芯片制造商不會放棄性能上的定期增長,HPC領域的晶體管功率正在飛漲。

1.jpg

(via AnandTech)

另一方面,小芯片技術正在為構建更強大的芯片鋪平道路。但在性能與延遲優勢之外,其在散熱方面遇到的問題也不容忽視。

以臺積電為例,這傢芯片代工巨頭擁有 CoWoS 和 InFO 等現代技術,允許芯片制造商突破傳統標線限制、構建集成更多芯片的系統級封裝(SiP)。

通過將四個標線大小的芯片結合到一起,其復雜性也會迎來巨大的增長 —— 每個 SiP 或擁有超過 3000 億個晶體管。但在性能增長的同時,臺積電及其合作夥伴也付出瞭功耗與發熱方面的代價。

至於英偉達的 H100 加速卡,此類旗艦產品的峰值性能功耗動輒超過 700W,所以在單封裝系統裡使用多個 GH100 芯片的難度也是可想而知。

2.png

如果找不到更好的辦法,未來我們需要為 1kW 及以上的多芯片 SiP 做好準備,以應對功耗 / 散熱方面的嚴峻挑戰。

除瞭 700W 的英偉達 H100,英特爾 Ponte Vecchio 和 AMD Instinct MI250X 的故事也大致相同,且傳統水冷散熱方案也有其局限性。

當芯片封裝功率邁過 1000W 的關口時,臺積電設想數據中心需要為此類極端的 AI / HPC 處理器使用浸沒式的液冷散熱系統,結果就是需要徹底重新改造數據中心的結構。

盡管面臨著短期和持續性挑戰,英特爾等科技巨頭還是相當看好浸沒式液冷散熱方案,並希望推動這項技術變得更加主流。

3.png

此外去年,臺積電有透露其已嘗試過片上水冷方案,甚至據說可應對 2.6 kW 的 SiP 散熱需求。

對於願意為此買單的客戶(比如超大規模雲數據中心的運營商們)來說,其有望推動究極 AI / HPC 解決方案的發展,但缺點是技術復雜性和成本都相當高昂。

此前我們已經在 Cerebras 的大型“晶圓級”處理器產品上看到過相關演示(需要高功率壓縮機來為芯片散熱),但初期臺積電還是會繼續打磨 CoWoS 和 InFO 等封裝工藝,以突破傳統芯片設計的標線限制。


相關推薦

2022-06-30

超過瞭這些限制——功率要求和功率密度不斷擴大。根據臺積電最近一年一度的技術研討會的消息,隨著臺積電為更密集的芯片配置奠定基礎,我們應該期待看到這種趨勢繼續下去。手頭的問題並不是一個新問題:晶體管功耗的

2023-02-20

本文介紹業界最快的3nmCMOS平臺技術可行性。與傳統FinFET技術相比,首次引入具有由不同鰭配置組成的標準單元的FinFlex™,以提供關鍵的設計靈活性,從而實現更好的功率效率和性能優化。與我們之前的5nm CMOS工藝相比,實現約1

2022-07-21

據semiwiki報道,在最近的VLSI技術與電路研討會上,臺積電研發高級副總裁YJMii博士發表題為“SemiconductorInnovations,fromDevicetoSystem”的演講。該演示文稿提供對臺積電未來研發計劃的見解,超越當前的路線圖。還強調正在研究的技術

2022-10-14

臺積電是全球最大、最先進的半導體生產商,因此是半導體行業的“風向標”,也是整個IT行業嚴重依賴半導體作為其關鍵驅動力的領先指標。在截至9月的第三季度中,這傢臺灣代工廠的收入增長35.9%至202.5億美元,同比增長47.9%

2023-12-06

在充滿活力且競爭激烈的半導體技術領域,臺積電(NYSE:TSM)屹立不倒,以其先進的芯片制造節點樹立新標準。臺積電在開發和部署最先進的3納米和5納米技術方面的戰略策略鞏固其市場主導地位,並顯著提高其晶圓收入。這一

2022-07-14

理。沒曾想,在部分終端需求疲軟態勢下,晶圓代工巨頭臺積電、三星、聯電卻頻傳漲價消息。據報道,臺積電將於2023年1月起全面調漲代工價格6%,而這距離上一輪漲價還不到一年。去年8月,臺積電就通知客戶晶圓代工價格將

2024-05-06

臺積電於4月末在美國加利福尼亞州舉辦2024年北美技術論壇,發佈其最新半導體制程技術A16(1.6nm)、下一代先進封裝和3D芯片技術等6大半導體技術創新,引發業界關註。在全球發展人工智能(AI)的熱潮之下,臺積電憑借其領先

2023-07-27

極致的散熱才能保障極致的性能釋放,一加一直以來不斷推動行業散熱技術的迭代,引領手機散熱體驗發展。今天,一加正式發佈行業首個航天級三維立體散熱系統——天工散熱系統,將手機散熱跨越式地帶入由散熱面積、散熱

2022-06-24

臺積電最近在加利福尼亞州聖克拉拉舉行瞭年度技術研討會,演講全面概述瞭它們的狀態和即將到來的路線圖(《臺積電最新工藝路線圖,2nm正式亮相》),涵蓋瞭工藝技術和先進封裝開發的各個方面。本文將總結工藝技術更新

2024-02-10

公司包括許多主要的一級和二級廠商,如三星(韓國)、臺積電(臺灣)、SK Hynix(韓國)等,這些企業在北美、歐洲、亞太地區和世界其他地區(RoW)的先進封裝市場占有重要地位。

2022-07-29

周期當前,存儲芯片進入下行周期已是業內公認的事實,臺積電在最新財報直接指出存儲市場已遇冷。自今年二季度以來,內存價格就在迅速下跌,TrendForce數據顯示,今年二季度DRAM平均合同價格同比下跌10.6%,為2年來首降。當

2024-04-22

味著前25名的最低銷售額門檻。從個別公司的表現來看,臺積電作為行業領頭羊,雖然營收有所下降,但是以692億美元的營收榮登榜首。得益於其用於數據中心服務器人工智能(AI)工作負載的GPU處理器的巨大增長,英偉達在前25

2023-05-11

看增,但因需要一條龍的先進封裝產能,公司近期緊急向臺積電追加預訂CoWoS先進封裝產能,全年約比原本預估量再多出1萬片水準。追單已獲得臺積電允諾。由於先進封裝產能也需要提前計劃排產,而目前已步入2023年第二季度

2022-10-07

將使臺灣半導體制造公司(TSMC)的收入預測變得棘手。臺積電是世界上最大的合同芯片制造商,它與AMD的合作關系已經證明是後者能夠定期向市場提供技術先進的產品的關鍵。在過去的幾年裡,臺積電在全球半導體生態系統中