新版摩爾定律來?ChatGPT之父:AI算量18個月翻倍


半導體行業有個黃金定律,那就是Intel創始人50多年前提出的摩爾定律,指出芯片晶體管18到24個月翻倍,如今是AI時代,“ChatGPT”之父SamAltman提出新版摩爾定律。SamAltman是OpenAI公司CEO,被稱為“ChatGPT”之父,他在社交媒體上發文提出新版摩爾定律要來,稱全球人工智能運算量每隔18個月翻一番。

Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_(cropped).jpg

1965年,時任仙童半導體工程師、後來創立Intel的戈登·摩爾發文指出,每隔18個月,半導體芯片的晶體管密度就會翻倍,被稱為摩爾定律,後續又被時間間隔修正為24個月,也就是兩年時間芯片密度翻倍,成本降低一半。

至於ChatGPT,它目前使用的是GPT-3大模型,有1750億參數,已經積累1億用戶,日活超過1300萬,訓練階段總算力消耗約為3640 PF-days(即1PetaFLOP/s效率跑3640天),成本預計在500萬美元/次。

未來會升級到GPT-4模型,有100萬億參數,算力性能需要指數級提升。


相關推薦

2023-02-27

爾定律,指出芯片晶體管18到24個月翻倍,如今是AI時代,ChatGPT”之父Sam Altman提出新版摩爾定律。Sam Altman 是OpenAI公司CEO,被稱為ChatGPT”之父,他在社交媒體上發文提出新版摩爾定律要來,稱全球人工智能運算量每隔18個月翻一

2023-04-20

片去支持更復雜、更智能、更創新的AI系統。當下爆火的 ChatGPT 的研發公司 CEO 曾在社交媒體發文稱,新版本的摩爾定律——全球人工智能運算量每隔 18 個月翻一番,很快就要到來。這可能就是對戈登·摩爾先生最好的致敬。4、

2023-03-27

據英特爾、戈登與貝蒂·摩爾基金會(GordonandBettyMooreFoundation)消息,當地時間2023年3月24日,英特爾聯合創始人戈登·摩爾博士(GordonEarleMoore)在夏威夷的傢中逝世,享年94歲。據基金會報道,他於2023年3月24日星期五在傢人的陪

2024-03-17

結果表明:LLM的能力大約每8個月就會翻一倍,速度遠超摩爾定律!我們人類可能要養不起AI!論文地址:https://arxiv.org/pdf/2403.05812.pdfLLM的能力提升大部分來自於算力,而摩爾定律代表著硬件算力的發展,——也就是說,隨著時間

2022-10-01

“我知道大傢都在爭論‘摩爾定律’(Moore’sLaw)是否死?答案是No!”北京時間9月28日凌晨,IntelInnovation2022開幕活動上,英特爾現任CEO帕特·基辛格(PatGelsinger)聲嘶力竭地表示,“摩爾定律”沒有死,它還活得好好的(Alivean

2022-10-01

在過去一周,聖何塞似乎變成芯片版的瞬息全宇宙。摩爾定律在其中一個宇宙已經死,而在另一個宇宙依然“健在且活的挺好”。這兩個宇宙的主宰者分別是英偉達和英特爾。文 | 玄寧9月28日,英特爾在和英偉達總部隔著一

2023-03-25

3月24日,英特爾公司和戈登與貝蒂摩爾基金會(Gordon and Betty Moore Foundation)宣佈,英特爾聯合創始人戈登摩爾去世,享年94歲。戈登與貝蒂摩爾基金會稱,摩爾於當地時間周五在夏威夷的傢中平靜去世,傢人在他身邊陪伴。該基

2022-08-27

大約七年前,谷歌工程副總裁ParthaRanganathan就已意識到摩爾定律的衰落——此前大約每隔18個月,芯片性能都都有望迎來翻番,而不會大幅增加成本。考慮到谷歌擁有的巨大用戶體量和基礎設施,預算的超支遲早會成為一個沉重

2022-07-21

用互連小芯片尚未成為現實,但據幾位行業觀察傢所述,新版標準或於 2025 年前後推出。

2022-09-22

,但它將來會的。計算機行業正在構建下一個世界。”“摩爾定律結束。”9月21日,英偉達創始人兼CEO黃仁勛在接受包括澎湃新聞在內的媒體采訪時說。在回應外界對剛剛發佈的40系顯卡價格過高的議論時,他解釋道,以類似成

2023-12-25

爾首席執行官帕特基辛格在麻省理工學院的演講中表示,摩爾定律的節奏放緩至三年,但目前仍未消亡。摩爾定律由英特爾創始人之一戈登摩爾提出,其核心內容為:集成電路上可以容納的晶體管數目在每經過18-24個月便會增加

2022-07-26

體管密度與工藝命名註水對於解半導體行業的朋友來說,摩爾定律應該是比較熟悉。摩爾定律是英特爾創始人之一戈登·摩爾的經驗之談,他發現每隔18-24個月,芯片上晶體管數目就增加一倍。如果按照摩爾定律對工藝命名的話

2024-02-22

場預期的業績展望。隨著具有劃時代意義的生成式AI——ChatGPT橫空出世,意味著全球逐步邁入全新的AI時代,此後不僅是科技行業,全球各行各業對英偉達AI芯片——即用於AI訓練與推理領域的A100/H100芯片需求激增,使得該科技巨

2022-12-10

預計第一批產品會在2024上半年登場。Intel創始人之一戈登摩爾曾提出摩爾定律,其核心內容為:集成電路上可以容納的晶體管數目在大約每經過18個月到24個月便會增加一倍。換言之,處理器的性能大約每兩年翻一倍,同時價格下