Meta人工智能開發失誤 不及時用GPU導致落後對手


4月25日消息,一份內部備忘錄顯示,2022年夏末,Meta首席執行官馬克·紮克伯格(MarkZuckerberg)召集公司高管團隊,分析公司計算能力長達五個小時,特別是處理尖端人工智能的能力。

備忘錄指出,盡管Meta在人工智能研究方面進行高調的投資、並且公司越來越依賴人工智能來支持其增長,但在主要業務采用昂貴的人工智能優化軟硬件系統上,這傢社交媒體巨頭的速度比較緩慢,這妨礙其在規模擴張中跟上創新步伐的能力。如果要支持人工智能工作,Meta需要“從根本上改變我們的物理基礎設施設計、軟件系統以及提供穩定平臺的方法”。

據公司披露,此次改組使Meta的資本支出每季度增加約40億美元,幾乎是2021年的兩倍,並導致其暫停或取消在四個地點建立數據中心的計劃。

而Meta正面臨著嚴峻財務困境,自去年11月以來,該公司一直在進行規模空前的裁員。

與此同時,去年11月ChatGPT橫空出世,引發科技巨頭之間的競爭,它們紛紛發佈生成式AI產品。而五位消息人士稱,生成式AI需要大量的計算能力,這加劇Meta擴容的緊迫性。

消息人士透露,Meta在人工智能上應用GPU較為緩慢,是主要問題之一。GPU芯片非常適合人工智能處理,因為它們可以同時執行大量任務,縮短處理數十億條數據所需的時間。然而,GPU芯片價格較高,芯片制造商Nvidia控制著80%的市場,並在相應的軟件方面保持領先地位,消息人士稱。

直到去年,Meta主要使用大量普通CPU來運行AI工作負載。CPU是計算機世界的主力芯片,雖然已經稱霸數據中心幾十年,但其在人工智能工作方面表現不佳。

這導致競爭對手在AI領域的發展超過Meta。他們使用GPU芯片並擁有更好的AI軟件,因此能夠更快地開發新的AI產品和服務。

據兩位消息人士透露,Meta公司還開始使用自己內部設計的定制芯片來訓練AI。但到2021年,這種雙管齊下的方法被證明比以GPU為核心構建的方法更慢、效率更低效。GPU芯片在運行不同類型的模型方面也比Meta的芯片更加靈活,這兩位消息人士說。

後來,隨著紮克伯格將公司轉向元宇宙,算力不足使得公司無法應對威脅,包括TikTok的崛起和蘋果主導的廣告隱私變化。

這些問題引起前Meta董事會成員彼得·蒂爾(Peter Thiel)的關註。2022年初,他辭去職務,沒有解釋原因。據兩位知情人士透露,在他離任前的一次董事會會議上,蒂爾指出紮克伯格和他的高管們過於專註於元宇宙的發展,而忽視Meta的核心社交媒體業務,這讓公司容易受到TikTok等競爭對手的挑戰。

Meta曾計劃在2022年推出定制芯片,但後來放棄,轉而在同年訂購數十億美元的Nvidia GPU芯片。此時Meta已經落後於谷歌等同行,後者在2015年開始部署自己定制的GPU版本,稱為TPU。

Meta接下來開始重組人工智能部門,任命兩位新的工程師領導。在這段時間內,數十位高管離開Meta公司,幾乎全部更換人工智能基礎設施領導層。

接下來,Meta公司開始改造其數據中心,以適應引進的GPU,這些芯片需要更多的功率和產生更多的熱量,必須緊密地聚集在一起,並在它們之間進行專門的網絡連接。這項工作需要大量的網絡容量和新的液冷系統來管理集群的熱量,因此需要對它們進行“完全重新設計”。

隨著工作的推進,Meta開始內部計劃開發一款更為雄心勃勃的新型芯片,類似於GPU,既能訓練人工智能模型,又能進行推理。兩位消息人士透露,該項目將於2025年左右完成。

Meta的發言人Jon Carvill拒絕就芯片項目發表評論。

雖然Meta正在擴大GPU規模,但微軟和谷歌等公司正在推廣商業生成式人工智能產品,而Meta在這方面沒有太多實質性進展。

Meta首席財務官在二月份承認,公司目前沒有將大部分計算能力用於生成式工作。她說:“基本上我們所有的人工智能能力都用於廣告、動態消息和Reels。”Reels是Meta公司類似於TikTok的短視頻格式,廣受年輕用戶歡迎。

據四位消息人士透露,Meta公司直到ChatGPT在去年11月份推出後,才開始優先考慮開發生成式人工智能產品。雖然公司的AI研究部門自2021年底以來一直在發佈技術原型,但沒有專註於將其轉化為產品。然而,隨著投資者的興趣不斷高漲,紮克伯格在今年2月份宣佈成立一支新的高層次生成式人工智能團隊,他說這個團隊將“加速”該公司在這一領域的工作。

首席技術官安德魯·博斯沃思也在本月表示,生成式人工智能是他和紮克伯格花費最多時間的領域,並預測Meta公司將在今年推出新產品。

兩位熟悉新團隊的人士表示,該團隊的工作處於早期階段,主要是構建基礎模型,這是一種核心程序,以後可以進行微調和適應不同的產品。

Meta公司發言人Carvill表示,該公司已經在不同的團隊上開發生成式人工智能產品超過一年。他確認,在ChatGPT推出後的幾個月裡,這項工作加速。(易句)

(本文由AI翻譯,網易編輯負責校對)


相關推薦

2023-04-27

a的計算能力進行5個小時的分析討論,重點是Meta開展先進人工智能(AI)工作的能力。根據內部郵件、公司公告,以及相關知情人士的透露,Meta面臨著一個棘手的問題:盡管在AI研究方面進行大規模投資,但關於如何在主營業務

2024-04-12

術發展的早期發揮至關重要的作用,這項技術已成為當今人工智能(AI)革命的基石。然而,現在的格局是,一傢荷蘭公司壟斷半導體制造設備,亞洲制造商主導生產。極紫外光刻機(EUV)可以說是目前世界上最重要的電子設備。它的

2024-03-13

據路透社援引消息人士的話說,用於制造人工智能芯片的一項關鍵技術是全球最大的內存制造商韓國三星電子公司落後於本國和美國競爭對手的原因。高帶寬內存(HBM)芯片與華爾街人工智能寵兒英偉達(NVIDIA)公司設計的芯片

2024-04-09

專註於開源大模型的社交媒體巨頭Meta在全球AI(人工智能)熱潮中收獲頗豐,帶動紮克伯格身價大漲。近日,根據彭博億萬富豪指數,Meta公司CEO馬克·紮克伯格(MarkZuckerberg)的身傢一度超過特斯拉CEO埃隆·馬斯克(ElonMusk),自

2023-05-06

據媒體報道,Meta從英國人工智能(AI)芯片公司Graphcore挖來一個團隊,該團隊此前在挪威奧斯陸工作,直到去年年底還在Graphcore開發AI網絡技術。據悉,該團隊共有10人,他們在Graphcore工作到去年12或今年1月,隨後在今年2月或3月

2022-07-04

芯片,包括M2 Pro、M2 Max、M2 Ultra和M3。為瞭跟上Mac芯片的開發進度,蘋果的芯片工程團隊不得不將許多測試、開發和生產資源轉移到Mac芯片上。問題是,這是否會影響瞭其他芯片開發?再加上供應鏈出現的瓶頸,蘋果對Mac芯片的

2023-01-08

蘋果希望在2024年發佈iPhone SE 4作為其內部調制解調器芯片的測試平臺,但開發失敗可能導致預算iPhone被取消。

2023-04-01

機不能點火。H3火箭原本被寄予厚望,這是宇宙航空研究開發機構(JAXA)等開發的新型主力火箭,作為H-2系列火箭的繼承者,該火箭全長63米、直徑5.2米,運載人造衛星的能力被認為是目前主力火箭H2A的1.3倍以上,是日本研發的

2023-01-16

支持新的NVIDIA NVLink開關系統。NVLink C2C是NVIDIA為超級芯片開發的內存相幹、高帶寬和低延遲互連。它是Grace Hopper超級芯片的核心,提供高達900 GB/s的總帶寬。這比加速系統中常用的x16 PCIe Gen5通道的帶寬高7倍。結合NVIDIA NVLink切換

2024-03-04

於放棄造車夢,把目光轉向科技領域目前最火熱的生成式人工智能(AI)上。但是,蘋果在AI上的投資已大大落後於競爭對手,追趕起來也要付出昂貴的代價,造車的錢可能都不夠用。蘋果在向公司內部宣佈停止造車的同時,把公司

2024-03-23

全面開放數字錢包:蘋果限制輕點支付功能、限制第三方開發跨平臺數字錢包,損害企業和客戶在手機上獨立於蘋果之外進行安全數字交易的能力。同時,司法部列舉一系列進入智能手機市場的壁壘,如高昂的零部件采購成本、

2023-04-07

一次失敗不能全盤否定三星和 AMD 合作的價值。負責 GPU 開發的三星副總裁 Sungboem Park 此前就表示將繼續與 AMD 合作,基於 RDNA 3 架構開發下一代 GPU,所以這次延長戰略 IP 許可協議並不意外。而三星也明確對外表示,將在 2025 年 G

2022-12-23

劃對iPhone14Pro的圖形功能進行一次重大的代際更新,但在開發後期發現"前所未有的"錯誤步驟後,不得不取消新的GPU計劃。在一份付費報告中,The Information聲稱,蘋果工程師在為iPhone 14 Pro的圖形處理器添加新

2023-02-10

情緒影響而迷失對好壞項目判斷力的體現。還有人認為,人工智能每隔5-10年就是一個輪回,如今距離AI上一次成為風口剛好5年多。風口中,難免魚龍混雜,而時間會讓“濫竽充數者”浮出水面,最終狂熱的市場情緒得以冷卻,