英偉達谷歌NYU齊上陣 用LLM完成芯片設計


生成式AI的誕生,為芯片設計開啟另一條路。現在不論是英偉達等科技公司,還是學術界,都在試圖研發出能夠完全自主設計芯片的AI系統。用生產式AI加速芯片設計,將會成為半導體行業基操。在過去的⼀年⾥,算力巨頭英偉達、芯⽚設計公司Synopsys、CadenceDesignSystems,以及學術界開發人員都進行諸多的嘗試。

它們分別開發出一款AI工具——

旨在通過⾃動編寫硬件代碼和驗證代碼,加快⼯程師的⼯作速度,並通過總結筆記和狀態更新來幫助⼤型設計團隊協同⼯作。

讓AI參與芯片設計,全都是因2023年⼈⼯智能熱潮掀起,專用AI芯片的供應一直處於緊張狀態。

與此同時,摩爾定律(即芯⽚中的晶體管數量⼤約每兩年翻⼀番)的預言終結,也促使許多公司開始探索全新的芯⽚架構,以⽣產更多專⽤芯⽚。

專傢表⽰,美國沒有⾜夠的⼯程師能夠為AI以及⾃動駕駛汽車和⽆⼈機等特定應⽤設計這些先進的芯⽚,而當前這些應⽤的需求都在不斷增長。


英偉達ChipNeMo,專供AI芯設計

英偉達應⽤深度學習研究的副總裁Bryan Catanzaro表示,

由於GPU能夠同時處理成千上萬的任務,因此需要近千⼈來制造,⽽且每個⼈都必須解設計的各個部分是如何協同⼯作的,同時還要不斷改進。

對此,英偉達團隊開發一種全新定制化大模型ChipNeMo,能夠執行諸如回答有關GPU架構的問題,或⽣成芯⽚設計語⾔代碼等任務。

研究人員在開源Llama 2模型的基礎上,對這款AI系統進行訓練。

與此同時,該AI系統也是為與Synopsys等現有設計⾃動化⼯具配合使⽤。


英偉達的內部⼯程師開始使⽤ChipNeMo一年以來,Catanzaro稱,他們發現該系統在培訓初級⼯程師、總結100個不同團隊的筆記,狀態更新⽅⾯⾮常有⽤。

Google、芯片設計AI公司上陣

對於⾕歌DeepMind,他們也開發⼀套AI系統來改進邏輯合成。

這是芯⽚設計的⼀個階段,包括將電路⾏為描述轉化為實際電路。⾕歌表⽰,這些技術可能會被⽤於改進⾃⼰的定制⼈⼯智能芯⽚,即“張量處理單元”(TPU)。

另外,芯片設計公司Synopsys去年發佈一款AI工具——名為Synopsys.ai Copilot。

這是與微軟合作通過OpenAI的⼤模型開發的工具,旨在幫助工程師們開展合作。


該公司表示,微軟的內部矽團隊正在使用該工具來支持其工程需求。

這款AI⼯具可以回答有關如何使⽤公司設計⼯具的問題,並能創建⼯作流程腳本。

它還可以生成RTL(一種芯片設計語言,用於規范芯片架構),隻需用簡單的英語進行對話即可。


學術界研究爆發

在學術界,也有諸多研究朝著這個方向開展。

包括紐約大學在內多所大學進行的研究,致力於發現確定生成式AI加速芯片設計的其他方法。

其中一些研究得到Synopsys,以及芯片巨頭⾼通等公司的資助。


QTcore-C1,⼀種由紐約⼤學研究⼈員通過與ChatGPT對話命名和設計的芯⽚

紐約⼤學坦登⼯程學院的⼀個團隊通過與ChatGPT對話,在⼤約⼀個⽉的時間⾥設計出⼀款芯⽚。

這項技術被稱為“Chip Chat”,研究⼈員隻需與ChatGPT對話, 就能⾃動編寫描述芯⽚功能的芯⽚設計語⾔ Verilog。

紐約⼤學坦登⼯程學院電⽓與計算機⼯程研究所副教授Siddharth Garg表示,“通過使用與ChatGPT相關的AI系統,研究人員希望將硬件設計時間加速到⼀個⽉或更短的時間”。

通常來說,設計一款最復雜的微芯⽚,可能需要耗費長達半年,甚至更長的時間。


但這些AI工具並非,無所不能。

德克薩斯大學奧斯汀分校電氣與計算機工程學教授David Pan說,目前,這些工具主要用於培訓年輕的芯片設計師、編寫硬件語言和報告錯誤等方面。

⽬前的⼯具還有其他局限性。

⼯程師必須仔細驗證AI⽣成的輸出結果, ⽽且⽬前還沒有⼀種解決⽅案可以⾃動完成從設計到驗證、實現設計的晶體管以及檢查設計的電⽓特性等整個芯⽚設計流程。

Synopsys公司的Krishnamoorthy估計,利⽤⽣成式AI⾃主創建功能芯⽚的能⼒⼤約還需要5年時間。

參考資料:

https://www.businessinsider.com/nvidia-uses-ai-to-produce-its-ai-chips-faster-2024-2

https://www.wsj.com/articles/designing-chips-is-getting-harder-these-engineers-say-chatbots-and-ai-can-help-092b4c4


相關推薦

2023-11-09

最核心基礎設施——AI芯片的支撐,目前這一領域幾乎被英偉達GPU所壟斷。美國銀行和花旗統計數據顯示,英偉達在AI芯片領域份額達到驚人的90%。谷歌TPU——為AI而生但是,谷歌正在將“谷歌TPU”這一用於谷歌內部服務器的AI專

2023-03-23

美國銀行分析師VivekArya指出,基於芯片巨頭英偉達在人工智能和大型語言模型(LLM)領域日益領先的因素,該公司股價未來料將大幅上漲。美銀此次還上調英偉達股票的目標價。周三(22日),英偉達在年度GTC開發者大會上,發

2024-02-20

註意不是馬斯克的Grok)據他們介紹,其推理速度相較於英偉達GPU提高10倍,成本卻降低到十分之一。換言之,任何一個大模型都可以部署實現。目前已經能支持Mixtral 8x7B SMoE、Llama 2的7B和70B這三種模型,並且可直接體驗Demo。他們

2022-06-28

對手成立一個財團,對ARM進行控股,或者將其全盤收購。英偉達也曾在2020年嘗試過以400億美元收購ARM,但未能成功。部分英國政客認為,ARM擁有極其重要的戰略地位,所以政府應當持有"黃金股",掌握控制權。或許為回

2024-03-19

全球總市值第三的上市公司英偉達(NVDA.US),似乎正在變成一個面向YOLO交易人群(即以“你隻活這一次”——YouOnlyLiveOnce,為宗旨的激進投資群體)的賭博式交易對象。在美東時間3月18日召開的GTC大會預期催化之下,英偉達的期權活

2024-02-11

個金額占全球GDP的10%,相當於2.5個微軟、3.75個Google、4個英偉達、7個Meta,或者11.5個特斯拉。昨天,SamAltman籌資7萬億美元建芯片帝國的新聞一出,輿論嘩然。7萬億美元,是全球GDP的10%,大約是美國GDP的1/4,或者2/5個中國的GDP。

2023-12-06

自步入人工智能時代以來,中國一直是英偉達的大客戶。2022年,英偉達銷售數據中,25%來自中國客戶,尤其是一些互聯網大廠,他們對英偉達的算力產品,比如H800,可以說是瘋狂買買買。但是隨著美國在2023年10月更新先進半導

2024-03-27

3月27日消息,英偉達在AI芯片市場的主導地位激發其他公司自主設計芯片的決心。盡管從頭開始設計芯片充滿挑戰,耗時多年且成本高昂,通常以失敗告終,但人工智能的巨大潛力驅使業界人士勇敢嘗試。在這一背景下,兩位前

2024-04-28

4月27日消息,據國內多傢媒體報道,從4月26日晚到4月27日凌晨,廣州出現猛烈強對流天氣,多地降下冰雹,局地出現龍卷風。不少網友曬出撿到的冰雹,表示第一次見冰雹如冰球那麼大”。專傢介紹,當下層空氣溫度較高、高層

2024-02-11

當地時間2月9日,美股半導體板塊集體上漲,英偉達股價大漲3.6%,再創新高。截至當天收盤,英偉達市值超過1.78萬億美元,逼近谷歌和亞馬遜約1.8萬億美元的市值。今年迄今不到兩個月時間,英偉達股價漲幅已經超過46%。當天

2024-03-26

旗下Facebook的整個視頻推薦引擎提供新的驅動力。上周,英偉達在2024年GTC大會上發佈全新的Blackwell架構AI芯片B200 GPU。Meta表示,將在今年晚些時候收到首批新產品。

2024-03-19

個個通過AI模擬出來的酷炫的視頻後,一切鋪墊就緒——英偉達就是這一切進步的基石。是時候該發佈重要芯片。人們對此有預期,但當B200出現的時候,現場(可能包括全世界圍觀者)都還是忍不住驚呼。這是Hooper後的新一代架

2023-04-05

人工智能模型的超級計算機的技術細節,並宣稱該系統比英偉達的超算系統更快且功耗更低。谷歌新發表的這篇題為《TPUv4:用於機器學習的光學可重構超級計算機,硬件支持嵌入》的文章介紹谷歌自己設計的定制TPU芯片。谷歌

2024-03-01

熱衷於桌面電腦遊戲,否則你可能直到最近才開始註意到英偉達。這傢公司專註於生產顯卡和其他尖端技術產品,早已在遊戲界聲名顯赫並取得巨大成功。然而,與過去一年英偉達所經歷的爆炸性增長相比,這些成就顯得相形見