快科技5月19日消息,當地時間周四,Meta宣佈,它正在研發首款專門用於運行人工智能模型的定制芯片。
Meta並不像谷歌、微軟等科技巨頭從事銷售雲計算服務的業務,過去公司從未公開談論其內部數據中心芯片項目。但Meta高管稱,全球科技界都對此表現出興趣,所以有必要與外界溝通。
這款芯片名為Meta訓練和推理加速器”(Meta Training and Inference Accelerator,簡稱MTIA”),功耗僅為25瓦,遠低於NVIDIA等廠商的芯片功耗。
據Meta介紹,首個MTIA芯片將專註於AI推理。Meta軟件工程師Joel Coburn表示,Meta最初考慮將GPU用於推理任務,但後來發現GPU並不不太適合推理工作。
GPU在真實模型應用方面的效率仍然很低,而且部署起來成本高昂。”Meta軟件工程師Coburn表示,這就是我們需要MTIA的原因。”
此外,Meta還介紹一種稱作可規模化視頻處理器”(MSVP)的芯片,可用於處理視頻並傳輸,同時降低能源需求,該公司稱,每天需要處理40億個視頻的任務。