華為發佈全新OceanStor A800 AI存儲:10TB級帶寬 專攻AI大模型


快科技8月14日消息,近日,在2024華為數據存儲用戶精英論壇上,AI-Ready的數據基礎設施”分論壇成功舉行。

為促進AI大模型健康發展,華為推出全新的OceanStor A800 AI存儲

華為表示,該存儲采用數控分離架構,提供10TB級帶寬和億級IOPS,滿足混合負載的高性能要求,有效提升集群可用度。通過ModelEngine加速數據預處理,顯著提高AI訓練全流程效率。

它在推理場景中支持RAG向量數據庫,並通過KVCache技術賦予AI大模型記憶能力,以查代算,全面提升推理體驗和準確度。

華為數據存儲產品線閃存存儲領域副總裁嚴浩指出,隨著AI技術的迅速發展,大模型已從單模態演進到多模態,並在推理應用中得到廣泛使用。

然而,在AI基礎設施的部署與應用中,企業面臨集群可用度低、推理體驗不佳、數據管理難度大、全棧部署復雜等挑戰。華為全新OceanStor A800 AI存儲提供全新解決方案。


相關推薦

2024-02-20

專註於非結構化數據的業界首款A-A架構入門級全閃NAS存儲OceanStor Dorado 2100、全新升級的SAN存儲OceanStor Dorado 2000、支持SAN&NAS一體化的OceanStor Dorado 3000。面向大容量全閃需求和備份場景,華為也推出容量密度達1.5PB/2U的OceanStor 5310

2024-02-22

理芯片引發業內的廣泛關註。其最具特色之處在於,采用全新的TensorStreamingArchitecture(TSA)架構,以及擁有超高帶寬的SRAM,從而使得其對於大模型的推理速度提高10倍以上,甚至超越NVIDIA的GPU。推理速度比GPU快10倍,功耗僅1/10據介

2024-02-02

國,第二季度上量。H20的定價據稱僅為1.2-1.5萬美元,比華為昇騰910B 1.7萬美元要低不少,用心昭然若揭。L20、L2均基於Ada Lovelace架構,均為AI推理卡,暫不清楚是否已經供貨,可能要稍等等,對於中國客戶而言也不是非常迫切的

2023-09-23

快科技9月22日消息,在華為全聯接大會2023期間,華為正式發佈全新架構的昇騰AI計算集群Atlas 900 SuperCluster,可支持超萬億參數的大模型訓練。華為常務董事、ICT基礎設施業務管理委員會主任、企業BG總裁汪濤介紹,新集群采用全

2024-03-20

14.4TFlops的網絡計算能力,比上代提升4倍。此外,NVIDIA還發佈第六代通用AI超級計算平臺“DGX B200”,包含兩顆Intel五代至強處理器、八顆B200 GPU,具備1.4TB HBM3E、64TB/s帶寬,FP4精度性能144PFlops(每秒14億億次),萬億參數模型實時推

2023-11-05

快科技11月4日消息,華為智能視頻存儲OceanStor IVS3800通過中國計量科學研究院的測評,成為視頻存儲領域通過《視頻圖像重壓縮技術評測指標及方法》團體標準的首例。 華為表示,OceanStor IVS3800基於硬件、軟件結合編碼的方式

2023-03-23

度、騰訊BAT三巨頭都已經用上H800加速卡。H100加速卡采用全新的Hopper架構,GH100 GPU核心,臺積電4nm制造工藝、CoWoS 2.5D封裝技術,集成800億個晶體管,核心面積814平方毫米。它擁有18432個CUDA核心、576個Tensor核心、60MB二級緩存,可

2024-07-13

員工從9月起必須使用iPhone設備進行身份認證,禁止使用華為手機,以及小米等一系列安卓手機。沒有iPhone的員工微軟官方會提供一臺iPhone 15用於工作。有消息稱,微軟此舉是為安全著想,要求員工使用iPhone手機旨在確保所有員

2024-03-14

CerebrasSystems發佈他們的第三代晶圓級AI加速芯片“WSE-3”(WaferScaleEngine3),規格參數更加瘋狂,而且在功耗、價格不變的前提下性能翻一番。2019年的第一代WSE-1基於臺積電16nm工藝,面積46225平方毫米,晶體管1.2萬億個,擁有40萬個AI

2024-04-10

用至強處理器、Gaudi加速器,推出AIGC流水線的參考實現,發佈技術概念框架,並繼續加強Intel Tiber開發者雲平臺基礎設施的功能。

2024-04-03

盈利能力是其他DRAM的5~10倍。日前,市場調研機構Yole Group發佈的數據進一步印證這一點。Yole預計,今年HBM芯片平均售價是傳統DRAM內存芯片的5倍。而考慮到擴產難度,HBM價格預計在相當長一段時間內將保持高位。鑒於HBM目前無可

2023-11-03

技霸主地位。2018年,中興通訊被美國“封殺”;2020年,華為因被美實施制裁,麒麟高端芯片成為絕唱;2022年10月,美國瞄準AI芯片市場,英偉達最高端的A100、A800無法提供到中國市場。一年之後,美國商務部再度掄起大棒,對英

2023-12-07

構得到應用,尤其是在超級計算機領域初露崢嶸,11月份發佈的最新一期超算500排行榜上拿下前25名的5個席位,比如第一名的美國橡樹嶺國傢實驗室Frontier、第五名的芬蘭LUMI,都應用MI250X。同時,Instinct加速器還占據綠色超算500

2024-03-24

息,在今天世界氣象日的氣候行動最前線”主題活動上,華為雲與深圳市氣象局共同發佈首個人工智能區域預報模型智霽”1.0,標志著氣象預報迎來新的裡程碑。這一區域模型以華為雲盤古氣象大模型為基礎,融合區域高質量氣