近日,無問芯穹發佈“無穹Infini-AI”大模型開發與服務平臺,並宣佈與摩爾線程達成深度戰略合作。無穹Infini-AI基於無問芯穹的智算雲平臺,可服務生成式大模型的多種場應用落地,為應用開發者提供高性能、易上手、安全可靠的大模型服務,覆蓋從大模型開發到大模型服務化部署的全流程。
目前,無穹Infini-AI已經支持百川Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3閉源模型、Llama2、Qwen、Qwen1.5等系列模型共20多個模型。
摩爾線程是第一傢接入無問芯穹並成功完成千卡級別大模型訓練的國產GPU公司,“誇娥”(KUAE)集群已經與無穹Infini-AI順利完成系統級融合適配,並完成LLama2 700億參數大模型的訓練測試。
“誇娥”集群基於雙路八卡GPU服務器MCCX D800,每個節點有八塊MTT S4000 GPU加速卡、兩顆Intel第四代至強處理器、16 x 64GB內存、4×3.84TB NVMe SSD,以及雙路400Gb IB、四路25Gb以太網網絡,一體化交付解決大規模GPU算力的建設和運營管理問題。
誇娥氏是我國神話傳說中的大力神,出自《愚公移山》:“帝感其誠,命誇娥氏二子負二山,一厝朔東,一厝雍南。自此,冀之南,漢之陰,無隴斷焉。”
摩爾線程聯合創始人兼執行總裁王東表示,基於先進的MUSA架構,摩爾線程已建立從芯片、板卡、集群到軟件的全棧AI產品線。
摩爾線程誇娥智算集群是以全功能GPU為底座、軟硬一體化的全棧解決方案,擁有高兼容性、高穩定性、高擴展性等綜合優勢,可作為大模型訓練堅實可靠的先進基礎設施。