全程回顧黃仁勛GTC演講:Blackwell架構B200芯片登場


北京時間3月19日4時-6時,英偉達創始人黃仁勛在美國加州聖何塞SAP中心登臺,發表GTC2024的主題演講《見證AI的變革時刻》。鑒於過去一年多時間裡AI帶來的生產力變革,以及英偉達等一眾概念股的表現,老黃的演講已經變成全球資本市場翹首以待的熱門事件。

在這場兩個小時的演講中,黃仁勛公佈搭載B200芯片的GB200 Grace Blackwell超級芯片系統,以及英偉達在AI軟件(NIM微服務)、Omiverse雲、具身智能方面的最新進展。

以下為演講內容回顧:




黃仁勛登臺,對觀眾們強調:我希望你們搞清楚今天這裡不是演唱會,而是一場開發者大會。



黃仁勛介紹本屆GTC的一些參與者,並強調這些公司不隻是來參會,而是有自己的東西要來展示。



黃仁勛展示英偉達發展史,又提將首臺DGX One送給OpenAI的故事。


黃仁勛:今天我們將討論這個新行業的許多問題。我們要談談如何進行計算、我們要談談你所構建的軟件類型,你將如何看待這個新軟件,新行業中的應用 然後,也許(再談談)下一步是什麼,我們如何從今天開始做準備,下一步會發生什麼。




黃仁勛:我們使用仿真工具來創造產品,並不是為降低計算成本,而是為擴大計算規模。我們希望能夠以完全保真、完全數字化的方式模擬我們所做的整個產品。從本質上講,我們稱之為數字孿生。


老黃開始介紹一系列“新加速生態系統”合作夥伴,包括ANSYS、Synopsis、Cadence等。他也提及,臺積電和Synopsys將突破性的英偉達計算光刻平臺投入生產。


隨著transformer模型被發明,我們能以驚人的速度擴展大型語言模型,實際上每六個月就能翻一番。而為訓練這些越來越大的模型,我們也需要更強的算力。



“非常強大”的Blackwell架構GPU登場


老黃現場對比Blackwell架構和Grace Hopper架構的GPU

image

老黃現場展示Grace-Blackwell系統(兩個Blackwell GPU、四個die與一個Grace Cpu連接在一起)。GB200將兩個B200 Blackwell GPU與一個基於Arm的Grace CPU進行配對。新芯片擁有2080億個晶體管,所有這些晶體管幾乎同時訪問與芯片連接的內存。

image

image

image

為處理大規模數據中心的GPU交互問題,也需要更強的連接(NVlink)能力。

image

這個GB200新系統提升在哪裡呢?老黃舉例稱,如果要訓練一個1.8萬億參數量的GPT模型,需要8000張Hopper GPU,消耗15兆瓦的電力,連續跑上90天。但如果使用Blackwell GPU,隻需要2000張,同樣跑90天隻要消耗四分之一的電力。當然不隻是訓練,生成Token的成本也會隨之降低。

image

image

把芯片做大的好處:單GPU每秒Token吞吐量翻30倍

image

毫無疑問,微軟Azure、AWS、Google雲等一眾科技巨頭都是Blackwell架構的首批用戶。

image

接下來應該是應用側的部分,先展示的是生物醫藥的部分,包括NVIDIA DGX雲中的多項更新。

image

黃仁勛宣佈新的AI微服務,用於開發和部署企業級生成式AI應用。老黃表示,未來如何開發軟件?與現在寫一行行代碼不同,未來可能就要靠一堆NIMs(NVIDIA inference micro service),用與AI聊天的形式調動一堆NIMS來完成訓練、應用的部署。英偉達的願景是成為AI軟件的“晶圓廠”。

image

image

英偉達的AI微服務NIM網站已經上線。

image

NIM微服務提供最快、性能最高的AI生產容器,用於部署來自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型,以及來自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的開放模型。

NVIDIA AI Enterprise軟件平臺更新,包括NIM、構建RAG應用程序的工具等。隨後老黃又分享西門子科技、日產汽車等用如何在工作流中將Omiverse Cloud應用在工作流中。

image

image

黃仁勛宣佈,現在支持將Omniverse雲推流至Vision Pro。

image

可能是時間不太夠,老黃開始加速官宣一系列合作。其中提到全球最大電動車公司比亞迪將采用英偉達下一代智能汽車芯片Thor。比亞迪同時將使用英偉達基礎設施進行自動駕駛模型訓練,以及英偉達Isaac來設計/模擬智能工廠機器人。

image

開始提機器人。黃仁勛表示,在我們的世界裡,類人機器人很有可能會發揮更大的作用,我們設置工作站、制造和物流的方式,並不是為人類設計的,而是為人類設計的。因此,這些人類或機器人的部署可能會更有成效。黃仁勛同時宣佈一項名為GR00T的項目,旨在進一步推動英偉達在機器人和具身智能的突破性工作。由GR00T驅動的機器人可以理解自然語言,並通過觀察人類動作來模擬運動。

image

image

image

除機器人影像外,迪士尼的orange和green機器人也來到現場,這款機器人用的是英偉達為機器人設計的首款AI芯片Jetson。

image

黃仁勛帶著機器人下場,現場播放ending影片

image

黃仁勛返場告別,全場發佈會結束。

image


相關推薦

2024-03-19

都還是忍不住驚呼。這是Hooper後的新一代架構,以數學傢Blackwell命名。在性能上,它就是黃仁勛“黃氏定律”的集大成者和奠基者。以下是我用AI總結的Blackwell GPU的性能特點:高AI性能:B200 GPU提供高達20 petaflops的FP4計算能力,

2024-03-21

拉開帷幕,在當天的主題演講上,CEO黃仁勛宣佈推出NVIDIABlackwell平臺,並宣佈推出Blackwell架構的B200GPU、GB200超級芯片等。同此前的GTC大會等重要活動一樣,經常以黑色皮夾克現身、有皮衣黃之稱的黃仁勛,在當天的大會上,仍是

2024-03-19

載新款AI芯片——B200芯片,以及搭載B200 AI GPU的GB200 Grace Blackwell超級芯片系統,並且公佈英偉達在AI軟件(NIM微服務)、Omiverse雲、具身智能等方面最新進展,暗示AI融入世間萬物可謂大勢所驅。在美東時間3月18日的下午2點至2點30分

2024-03-18

新爆料的細節看,B200以及RTX50系顯卡都會使用這個架構,Blackwell帶來的性能提升也是明顯的。按照最新爆料,B100將采用兩個基於臺積電CoWoS-L封裝技術的芯片,連接到8個 8-Hi HBM3e顯存堆棧,總容量為192GB,而這還不是唯一。爆料

2024-03-19

“最強AI芯片”BlackwellB200GPU的高調發佈,已不單單是穩固英偉達在芯片領域的王者地位,更是讓業內人士高呼:新的摩爾定律誕生!在隔夜的2024GTC大會上,黃仁勛介紹運行AI模型的新一代芯片和軟件。他表示,新一代的B200GPU擁

2024-03-25

”,英偉達在GTC大會上亮出不少“黑科技”。其中,基於Blackwell架構的全新GPU芯片,性能是上一代的4倍,能效提升25倍,可謂“最強AI芯片”。全新AI微服務提供從應用軟件到硬件編程的一站式服務,在硬件、軟件和系統上全棧

2024-03-21

革命(加速計算和生成式 AI)下,英偉達的新基建包括:Blackwell 平臺;NIMS;NEMO 和 NVIDIA AI Foundry;Omniverse 和 ISAAC 機器人。|圖片來源:NVIDIA01 GTC 新品的中國市場計劃問:新的網絡和技術計劃向中國銷售多少?有任何中國特定SK

2024-03-20

今天凌晨,黃仁勛正式拿出新一代BlackwellGPU架構,以及基於此的B100/B200GPU芯片、GB200超級芯片、DGX超級計算機,再次將“戰術核彈”提升全新的境界,傲視全球。Blackwell B200 GPU首次采用chiplet晶粒封裝,包含兩顆B100,而B200之間再

2024-03-19

在奮力追趕,但也許NVIDIA即將擴大其領先優勢--憑借新的BlackwellB200GPU和GB200"超級芯片"。NVIDIA 首席執行官黃仁勛在 GTC 現場直播中舉起他的新 GPU(左邊),右邊是 H100。NVIDIA 表示,新的 B200 GPU 擁有 2080 億個晶

2024-03-19

產力的演變流程,最後一項正是今天的重點!改變形態的Blackwell GPU沒錯,老黃在GTC宣佈推出新一代GPU Blackwell。這裡先介紹一下Blackwell架構,此前NVIDIA推出的顯卡一般是兩種架構,其中遊戲顯卡例如我們熟悉的RTX 40系則是Ada Lovela

2024-03-21

深知這一點。”針對某些媒體引用英偉達最新一代AI芯片Blackwell定價在3萬至4萬美元的報道,黃仁勛本人進行澄清。他解釋說:“我當時的表述,隻是為讓大傢對我們產品的定價有個大致的概念,並非提供確切的報價。實際上,

2024-03-21

本,而是為擴大規模。”作為GTC大會的核心,英偉達發佈Blackwell GPU,它分為B200和GB200系列,後者集成1個Grace CPU和2個B200 GPU。NVIDIA GB200 NVL72大型機架系統使用GB200芯片,搭配NVIDIA BlueField-3數據處理單元、第五代NVLink互聯等技術,

2024-04-15

PU芯片性能,AI 算力性能提高1000倍。黃仁勛指的是全新的Blackwell架構B200芯片,比8年前的Pascal架構下的GPU產品提高1000倍 AI 性能。“現在,你可以擁有一臺搭載GPU顯卡、速度快100倍、能效高20倍、成本低20倍的計算機,能夠解決復

2022-09-21

9月20日的GTC活動上,英偉達CEO黃仁勛在演講中發佈萬眾矚目的英偉達新一代遊戲顯卡RTX40系列。本次英偉達共發佈三款顯卡,分別是RTX40系旗艦顯卡RTX4090與定位高端的RTX408016GB、RTX408012GB。RTX 40系列顯卡采用新一代RTX架構,計算能