快科技12月8日消息,中國聯通宣佈,中國聯通研究院日前與浙江聯通、聯通服裝制造軍團協同攻關,針對AI敏感數據的本地存儲異地訓練需求提出創新的業務模式,並成功在杭州與金華兩地間實施業界首次30TB樣本數據的跨200公裡存算分離拉遠訓練。
經過實際測算,訓練效率高達97%以上。
中國聯通表示,上述業務模式為業界首例,實現AI大模型存算分離技術的突破。
通過測試,充分驗證存算分離技術的安全性、可行性和高效性,為未來AI技術的發展提供新的思路和方向。
據介紹,存算分離技術是指將存儲數據的倉庫和對數據進行計算的加工廠獨立開來,在訓練時直接將數據從遠端存儲設備中拉過來進行計算,而不需要先存儲到本地的磁盤再進行處理,可以有效保證用戶數據的安全性和一致性。
本次存算拉遠測試的主要特色包括:
跨地市AI大模型訓練能力創新:傳統的智算集中訓練模式需要用戶將樣本上傳到智算中心進行落盤訓練,但部分用戶對隱私樣本落盤存在安全顧慮,浙江聯通通過IP廣域無損方案,實現杭州存、金華訓的數據不落盤”拉遠訓練,為企業用戶隱私樣本訓練探索出一條新路。
樣本數據總量與傳輸效率:樣本數據總量達30TB,傳輸距離超200公裡,計算拉遠效率大於97%。通過聯通服裝制造軍團衣瞳行業模型”的AI訓練存算分離現網測試,充分驗證針對AI訓練業務存算拉遠的技術可行性。