英偉達生成式AI超級電腦發佈:AI性能提高1.7倍 僅249美元


快科技12月18日消息,據報道,英偉達推出一款名為Jetson Orin Nano Super”的生成式人工智能 (AI) 超級電腦。

英偉達CEO黃仁勛表示,這款專為開發者設計的套件通過軟件升級實現性能飛躍,價格更親民化,僅249美元(約合人民幣1814元),其生成式AI性能提升高達1.7倍。

與前代產品相比,Jetson Orin Nano Super在性能上實現70%的提升,每秒可執行驚人的67兆次INT8運算(即67 INT8 TOPS),同時,其內存帶寬也大幅提升50%,達到102GB/s的高速水平。

黃仁勛指出,無論是構建基於檢索增強生成(Retrieval-Augmented Generation, RAG)技術的大型語言模型(LLM)聊天機器人,還是打造視覺AI代理,亦或是部署基於AI的機器人,Jetson Orin Nano Super都能以更低的成本提供卓越的運算性能,成為開發者的理想之選。

值得一提的是,這款超級計算機還支持從7W到25W的功耗運行,適配各種邊緣設備雲算場景,無論是智慧城市、智慧農業,還是機器人開發領域,都能展現出其強大的應用潛力。

英偉達強調,隨著AI技術從雲端向終端的延伸,實體AI將成為未來發展的重要趨勢。而Jetson Orin Nano Super不僅限於聊天機器人的開發,更在視覺AI代理、AI機器人部署等多個領域展現出廣泛的應用前景。


相關推薦

2023-08-10

列重磅更新來!在計算機圖形學頂會SIGGRAPH上,老黃宣佈英偉達最新的超級芯片NVIDIADGXGH200GraceHopper。這塊芯片搭載全球最快的內存,不僅帶寬每秒5TB,內存容量更是暴增接近50%來到141GB,“任何大語言模型都能運行”。同時,英

2023-03-22

全球AI計算技術盛會、一年一度的英偉達GTC大會如期而至!英偉達CEO黃仁勛(昵稱“老黃”)一如既往穿著標志性的皮衣進行78分鐘演講,滿面笑容地分享英偉達又悶聲幹哪些大事。總體來看,此次演講可總結成一大‘亮點’和

2023-11-14

英偉達的節奏,越來越可怕。就在剛剛,老黃又一次在深夜炸場——發佈目前世界最強的AI芯片H200!較前任霸主H100,H200的性能直接提升60%到90%。不僅如此,這兩款芯片還是互相兼容的。這意味著,使用H100訓練/推理模型的企業

2023-11-29

馬遜版的GPT——人工智能(AI)聊天機器人,一邊深化同英偉達的合作,推出基於英偉達芯片的新服務、和英偉達共同研發超級計算機。AWS的副總裁Dave Brown表示,通過將自研芯片的設計重點放在對客戶重要的實際工作負載上,AWS

2023-08-10

AI的時代已經來臨,屬於它的iPhone時刻到!就在8月8日,英偉達CEO黃仁勛,再次登上世界頂級計算機圖形學會議SIGGRAPH的舞臺。一系列重磅更新接踵而至——下一代GH200超級芯片平臺、AIWorkbench、OpenUSD……而英偉達也借此將過去這

2024-02-27

英偉達今天推出RTX500和RTX1000系列全新一代筆記本電腦顯卡,主要適用於筆記本電腦和移動工作站,內置神經網絡計算單元(NPU)用於輕型本地AI計算,如果要進行復雜的AI計算則會使用GPU芯片處理。這些顯卡基於 Ada Lovelace 架構,共

2024-03-21

當地時間3月18日,英偉達在2024GTC大會上發佈多款芯片、軟件產品。創始人黃仁勛表示:“通用計算已經失去動力,現在我們需要更大的AI模型,更大的GPU,需要將更多GPU堆疊在一起。這不是為降低成本,而是為擴大規模。”作為

2023-11-14

周一,半導體行業巨頭英偉達發佈新一代人工智能(AI)芯片H200,這款芯片旨在針對各種AI模型進行訓練和部署。H200芯片是目前用於訓練最先進的大型語言模型H100芯片的升級版,配備141GB的內存,特別擅長執行“推理”任務。在

2023-04-05

細節,展示用於訓練人工智能模型的超級計算機,稱其比英偉達A100芯片的系統更快、更節能。谷歌公司設計自己的定制芯片,稱為TensorProcessingUnit(TPU),並將這些芯片應用於90%以上的人工智能訓練工作。這個過程通過模型對數據

2024-02-21

到底差多少。就在Groq風風火火之際,全球最大AI芯片公司英偉達陷入一些振蕩。今日英偉達官宣將在3月18日-21日舉辦其年度技術盛會GTC24,但其股市表現卻不甚理想。受投資者快速撤股影響,英偉達今日股價降低4.35%,創去年10月

2024-03-25

令人期盼的科技盛宴本周在這裡上演。當地時間3月18日,英偉達CEO黃仁勛身著標志性的黑色皮夾克,登上萬人體育場,宛如一位搖滾巨星。“歡迎來到GTC大會。希望你們意識到這裡不是演唱會,而是一個開發者大會。”他在開場

2024-02-22

有著AI領域“最強賣鏟人”稱號的芯片巨頭英偉達真乃“又雙叒叕”公佈強勁無比的季度業績以及大幅超出市場預期的業績展望。隨著具有劃時代意義的生成式AI——ChatGPT橫空出世,意味著全球逐步邁入全新的AI時代,此後不僅

2024-02-27

在AI熱潮的推動下,英偉達成為世界上最具價值的公司之一。它能持續多久?兩年前,英偉達主要靠銷售顯卡賺錢。雖然也是一個傢喻戶曉的名字,但僅限於最忠誠的PC遊戲玩傢。如今,這傢芯片設計公司成為世界上最具價值的

2024-03-12

ntelligence》。作者是荷蘭數字經濟學傢Alex de Vries,他通過英偉達、OpenAI、Google等公開數據進行估算。結果就得出很多意想不到的結論。首先,現在大模型訓練時期的耗電量和推理階段相比,已經不值一提。SemiAnalysis數據顯示,Ope