開卷!微軟擬自研AI芯片“戴安娜”:降低機器學習成本


快科技4月19日消息,據The Information報道,科技巨頭微軟公司正在開發人工智能(AI)芯片,為聊天機器人ChatGPT背後的關鍵技術提供動力。

據悉,微軟早於2019年就開始這項研發AI芯片的計劃,該計劃在公司內部的代號為雅典娜”(Athena)。

目前,芯片已經提供給小部分微軟的員工,以及ChatGPT開發商OpenAI,主要用途為訓練大語言模型和支持推理,是生成式人工智能(AIGC)背後的關鍵技術。

微軟希望自研芯片的性能優於從其他供應商處購買的芯片,從而節省其在AI業務上的時間和成本。

現在,主導AI芯片的是NVIDIA,由於高漲的需求和產能的限制,NVIDIA芯片不僅時常短缺而且價格昂貴,給微軟、谷歌這類急於擴充算力的公司形成較大的壓力。

在ChatGPT爆紅全球後,微軟公司正在加緊推廣相關的應用場景,包括將其嵌入旗下軟件Bing、Edge、Offce 365等。

研究公司SemiAnalysis的首席分析師Dylan Patel估算,ChatGPT的運營成本為每天約70萬美元或每次查詢0.36美分。

大部分成本來自於其所需的昂貴服務器。和NVIDIA的產品相比,Athena如果具有競爭力,可以將每個芯片的成本降低三分之一。

不過,由於英偉達在這一領域深耕已久,即便Athena按計劃在明年投入量產,其制造工藝仍然落後一代。


相關推薦

2023-04-18

據報道,微軟準備推出人工智能芯片,用於為大模型提供動力。據兩位直接解該項目的人士透露,早在2019年,微軟就一直在開發這種內部代號為雅典娜(Athena)的芯片。其中一名員工表示,微軟和OpenAI的一小部分員工已經可以

2023-04-14

“全傢桶”,重磅空降ChatGPT引發的全球AI大競賽戰場!與微軟、谷歌從消費級產品切入的做法不同,亞馬遜旗下的AWS精準狙擊企業用戶,且產品覆蓋IaaS實例、PaaS平臺、SaaS軟件全棧技術層。至此,國外公有雲巨頭AWS、微軟Azure、

2024-03-03

爭中,後來者蘋果有哪些得天獨厚的優勢?縱覽環球AI,微軟攜OpenAI以令諸侯,然群狼環伺;Google緊追OpenAI,卻亦步亦趨;國內眾廠摸著OpenAI過河,但擁天塹之利。此三分天下而格局未定,廣闊天地大有可為,若假以時日,則霸

2023-07-16

發表暫停AI研究公開信、怒懟Open AI,甚至還曾威脅要起訴微軟。不過,從今年2月開始,馬斯克被曝出就一直在人工智能領域物色人才,計劃招募一支人工智能研發團隊來組建一個新的實驗室,當時有消息爆料這個實驗室的直接

2022-07-21

技術升級和降低價格,在雲計算服務市場領先於競爭對手微軟和谷歌。 未來十年,AWS的一個關鍵優勢在於其Graviton處理器。Graviton由AWS自主開發,致力於為互聯網上的應用程序(App)提供動力,或幫助客戶訓練機器學習(ML)模

2024-03-17

能處理器。據其爆料,英偉達高管已經與亞馬遜、Meta、微軟、Google和OpenAI的代表會面,討論為他們生產定制芯片的事宜,除數據中心芯片外,英偉達還在尋求電信、汽車和視頻遊戲的客戶。路透社的這份報道,意味著英偉達要

2023-07-16

進行廣泛合作,與 OpenAI 合作的 AI 編譯器 Triton,以及和微軟合作優化的做大規模分佈式訓練的軟件棧 DeepSpeed 等等。2如何破解 AI 算力困局?龐大的算力需求也意味著需要高昂的訓練成本。根據英偉達的數據,GPT-3需要使用1024顆 A1

2022-07-14

思、Arm公司“挖”不少人。有知情人士表示,這或是為其自研芯片做準備。事實上,早在2018年4月,字節跳動副總裁楊震原就曾表示,字節跳動擁有全球數量最大的用戶上傳視頻需要分析理解處理,平臺推薦引擎也需要強大的機

2024-06-09

速器組成的系統。此外,OpenAI的自研芯片計劃也反映出與微軟關系的微妙變化,盡管背靠微軟的資金和Azure雲服務,OpenAI仍尋求在芯片和算力方面的獨立性。業界普遍預計,OpenAI的第一代自研芯片將在2027年底前推出,在此之前,

2022-07-06

的競品也將會有不同的市場格局影響。第一類是科技公司自研芯片:他們走和NVIDIA相似的路線(即軟硬件結合設計),通過調動自身對於人工智能模型的深入理解,來實現有競爭力的芯片。另一方面,這類芯片通常不需要在生態

2024-02-13

,Nvidia 領先的 H100 數據中心 GPU 售價高達 40,000 美元。微軟和亞馬遜等集中式數據中心運營商訂購數十萬個數據中心,為雲客戶提供開發人工智能所需的計算能力。這使得 Nvidia 的數據中心收入在 2024 財年第三季度(截至 2023 年

2023-11-29

亞馬遜發力捍衛在雲計算領域的領先地位,一邊升級自研的雲芯片、推出亞馬遜版的GPT——人工智能(AI)聊天機器人,一邊深化同英偉達的合作,推出基於英偉達芯片的新服務、和英偉達共同研發超級計算機。AWS的副總裁Dave Br

2023-03-03

曾在彭博社NLP平臺團隊、AWS人工智能實驗室、Snap公司、微軟亞洲研究院以及京東的數據科學實驗室進行過實習。Yong Lin(林勇)林勇是香港科技大學的博士生,導師是張潼,前騰訊AI Lab主任。林勇的研究處於因果關系、機器學習

2024-05-21

是在算力上。為何在推理上做文章,也就不言而喻。比如微軟在Microsoft Build2020上,公開為GPT-3提供支持的AI supercomputing超級計算機,其可以讓大模型的訓練效率比其他平臺高16倍,從而降低時間成本與風險成本。國產大模型也不