專傢:即使國產AI芯片單個算力不強 也能通過綜合手段提升算力


快科技7月6日消息,世界人工智能大會(WAIC)在上海盛大舉行,會議主題為智造數字勞動力,打造新質生產力”。

壁仞科技副總裁兼AI軟件首席架構師丁雲帆在論壇中發表演講,提出當前解決算力瓶頸問題需要綜合考慮硬件集群算力、軟件有效算力以及異構聚合算力三個維度。

他強調,隻要這三個維度的工作得到有效推進,即使國產AI芯片的單個算力相對較弱,也能通過綜合手段提升整體算力,以滿足國內大模型訓練的需求。

壁仞科技聯合創始人張凌嵐日前指出,AI算力芯片的迭代周期通常介於兩年至三年之間,這一速度顯著慢於應用側的更新換代。

在討論AI芯片所面臨的挑戰時,張凌嵐強調,盡管面臨諸多挑戰,壁仞科技對未來AI算力芯片的市場前景和技術落地充滿信心。


相關推薦

2024-03-21

的原因,很難使用最新最強的英偉達AI芯片,作為替代的國產AI芯片在算力和能效比上目前仍有差距,這可能導致專註大模型領域的公司們在模型的規模擴展和迭代速度上與海外的差距拉大。對於中國的AI應用公司,則仍有機會。

2022-09-23

業與世界差距相對較小的領域,地平線、華為、黑芝麻等國產汽車芯片在大變局下又將何去何從?汽車算力革命進行時英偉達大搞算力競賽的背後,是汽車芯片領域的一場巨大變革。在傳統汽車上,需要計算機自動控制的功能並

2023-03-13

發展必不可少的指標,2018年,OpenAI發佈的報告中點出一個算力趨勢:自2012年以來,AI訓練任務所運用的算力每3.43個月就會翻倍。到2018年,AI算力需求增長30萬倍。產學研對算力需求暴增,我們能提供的算力有多少?據中國算力

2023-11-22

崗位,包括:總經理、SiC 功率模塊故障分析 / 物理分析專傢、SiC 功率模塊設計專傢、SiC 功率模塊工藝專傢和 SiC 功率模塊電氣設計專傢。用於智能駕駛的 AI 推理芯片是理想目前的研發重點。《晚點 Auto》解到,理想研發整個 SoC

2024-05-21

大尺寸模型。此外,通義還開源視覺、音頻、代碼、混合專傢模型。而阿裡的開源要追溯到2022年,也就是在大模型爆火的前一年,阿裡雲就完成魔搭(ModelScope)社區的搭建,該社區推出阿裡就把其近五年研發的300多個優質模型

2023-03-17

快速的更新,後來者很難通過指令翻譯等方式完美兼容,即使部分兼容也會有較大的性能損失,導致在性價比上持續落後英偉達。同時,CUDA畢竟是英偉達的專屬軟件棧,包含許多英偉達GPU硬件的專有特性,這部分在其他廠商的

2023-01-08

美國GPU禁令引發的風雲之變讓國產GPU被推到聚光燈下。“數字經濟的崛起與繁榮,離不開算力的強大支撐,計算芯片已然成為全球科技競爭的焦點所在。”中國工程院院士倪光南曾說。伴隨國內政策、資本、人才以及應用的紅利

2023-02-04

暴地將高端產品中端化,會影響公司的創收能力。當然,即使高通能通過適當的產品策略穩住手機相關業務的營收,也不能逆轉智能手機行業大盤觸頂的時代趨勢。因此,高通最緊要的任務,還是描繪出“第二條曲線”。手機之

2022-09-01

軟件生態是做好運營的關鍵支撐。我們認為,在大力發展芯片、網絡等硬件的同時,也要註重基礎軟件,如AI框架、開發套件、基礎模型的協同發展,釋放硬件算力,最終讓AI落地行業。當前,華為正在聯合產業夥伴,打造統一

2023-07-16

,還有像 Horovod 這樣的分佈式訓練框架。與此同時,底層芯片技術也在不斷演進發展。最早企業使用 CPU 進行訓練;隨後,GPU/GPGPU(通用 GPU)成為訓練和推理的標準設備;再到後來開始出現一些專用的 AI 芯片,比如谷歌的 TPU 芯片

2023-11-10

更多算力才能完成千億級參數模型訓練。兩位半導體行業專傢向鈦媒體App表示,基於目前性能參數的預估,明年英偉達B100 GPU產品很有可能不再向中國市場銷售。整體來看,如果大模型企業要進行GPT-4這類參數的大模型訓練,算

2024-04-01

人士在訪談中也承認,H20單卡算力僅有H100的20%,相比某國產芯片,其性能也隻有其60%多。此外,RTX 4090 D的核心數量相較RTX 4090也減少約11%,整體性能或降低10%!顯然,英偉達這些最新針對中國市場定制的產品性能被大幅閹割,

2023-07-09

。張亞勤稱,目前很多中外企業都在攻克人工智能芯片,即使未來算力成為短板,我們也很有希望找到新的途徑或方法,比如新模型、新算法和新框架等等,需求是創新的源泉。目前,中國的人工智能人才和數據足夠多、足夠強

2022-10-01

PPA——更高的性能,更低的功耗,更小的面積(成本),即使實現晶體管堆積數量的增加,性能的提升,但是成本的飆升、高昂的價格讓越來越多的企業停下對先進制程的追逐,思考摩爾定律本身的合理性。EDA(電子設計自動化