Meta轉向火熱的AI賽道,芯片、產品化和配套追趕是難題


Meta面臨著一個棘手問題:盡管對AI研究斥巨資,但產品轉化進展緩慢,直到ChatGPT火之後才開始註重。Meta之前對生成式AI需要的GPU這種更貴的芯片部署不夠,而是靠CPU。當發現不可行之後,Meta轉而采購數十億美元的英偉達GPU,但這時候已經被微軟和谷歌等巨頭甩開。


目前,Meta計劃開發一款新型芯片,能像GPU一樣訓練AI模型並執行推理,計劃在2025年左右完成。此外,相關負責人還表示,Meta在AI開發的工具和流程方面都明顯需要改進。

Meta的內部郵件顯示,2022年夏季末,Meta首席執行官馬克·紮克伯格(Mark Zuckerberg)曾召集他的主要助手,對Meta的計算能力進行5個小時的分析討論,重點是Meta開展先進人工智能(AI)工作的能力。

根據內部郵件、公司公告,以及相關知情人士的透露,Meta面臨著一個棘手的問題:盡管在AI研究方面進行大規模投資,但關於如何在主營業務中引入對AI友好的軟硬件系統,Meta進展緩慢。在Meta越來越依賴AI去支撐進一步增長的情況下,這影響該公司推動全面創新的節奏。

這封來自Meta新任基礎設施負責人桑托什·賈納爾漢(Santosh Janardhan)的郵件顯示:“在針對AI的開發方面,我們在工具、工作流和流程方面明顯落後,需要在這方面進行大筆投資。”這封郵件於9月份發佈在Meta的內網,近期首次被曝光。

郵件中還表示,支撐AI工作需要Meta“從根本上改變硬件基礎設施設計、軟件系統,以及提供穩定平臺的方法”。

在一年多時間裡,Meta正在開展一個龐大的項目,補足其AI基礎設施的短板。盡管Meta公開承認在AI的硬件發展上有些落後,但這方面的細節,包括算力壓力、管理層更迭和一個被放棄的AI芯片項目,此前從未被報道過。

對於這封郵件和相關的重組舉措,Meta發言人喬恩·卡維爾(Jon Carvill)表示,“憑借在AI研究和工程開發方面深厚的專業知識,Meta在構建和部署最先進的大規模基礎設施方面已經得到證明”。

他表示:“隨著我們為應用和消費產品提供新的AI體驗,我們很有信心能繼續拓展基礎設施能力,以滿足短期和長期的需求。”

但對Meta放棄AI芯片項目的消息,他拒絕回應。

根據Meta披露的信息,此次重組導致該公司的資本支出每季度增加約40億美元,幾乎比2021年翻一番,並導致4個地點數據中心的建設計劃分別暫停或取消。

Meta還正面臨財務壓力。自去年11月以來,Meta啟動自千禧年代互聯網破滅之後未曾有過的大規模裁員。

另一方面,微軟支持的OpenAI於去年11月30日發佈ChatGPT,這一AI聊天機器人迅速成為有史以來用戶數增長最快的消費級應用,並引發科技巨頭之間的AI軍備競賽。大型科技公司紛紛推出自己的生成式AI產品。這種AI除可以識別數據中的模式之外,還能根據輸入信息以類似人工的方式生成文字和視覺內容。

多名消息人士稱,生成式AI消耗大量算力,導致Meta更加迫切地需要擴大計算基礎設施。

1

對燒錢的項目投入不夠

消息人士稱,問題的一大關鍵在於Meta很遲才開始在AI工作中引入GPU芯片。GPU非常適合AI計算,可以並行執行大量任務,大幅減少處理海量數據的耗時。當然,價格也更貴,市場份額的80%都在英偉達手裡。

所以,Meta很大程度上是靠CPU來承擔AI計算任務。CPU是計算機行業的主力芯片,在過去幾十年中遍佈全球的數據中心,但不太適合處理AI計算任務。

根據兩名消息人士的說法,Meta還使用自主設計的訂制芯片來進行AI推理。然而到2021年,事實證明,采用CPU和訂制芯片在AI領域比GPU速度更慢、效率更低。此外,與Meta采用的芯片相比,GPU在運行不同類型的AI模型時也更具靈活性。

Meta拒絕對其AI芯片的性能置評。

消息人士表示,隨著紮克伯格推動Meta轉向元宇宙,算力壓力影響Meta部署AI以應對競爭威脅的能力,例如社交媒體對手TikTok的崛起,以及蘋果主導的廣告隱私政策調整。

這些挫折也引起Meta前董事會成員彼得·蒂爾(Peter Thiel)的註意。他於2022年初從Meta董事會辭職,但沒有做出任何解釋。

知情人士稱,在他辭職前的一次董事會會議上,蒂爾對Meta高管們表示,他們對Meta的核心社交媒體業務太自滿,而且對元宇宙太走火入魔。

2

轉而選擇GPU,但已落後

一名消息人士稱,2022年,在取消訂制推理芯片的大規模部署計劃後,Meta高管們轉而開始采購價值數十億美元的英偉達GPU。到這時,Meta已經明顯落後於谷歌等競爭對手。谷歌早在2015年就開始部署訂制版本的GPU,即TPU。

2022年春季,Meta高管還著手重組Meta的AI部門,任命兩名新的工程負責人,包括9月份郵件的作者賈納爾漢。根據領英平臺上的資料以及知情人士的說法,在長達數月的動蕩期內,十幾名管理者從Meta離職。MetaAI基礎設施的管理團隊幾乎被徹底更換。

接下來,Meta開始重新規劃數據中心基礎設施,以適應即將部署的GPU芯片。相比於CPU,GPU的耗電量和發熱量都更大,並且需要通過專門設計的網絡連接大量芯片,形成集群。

根據賈納爾漢的郵件以及消息人士提供的信息,這些設施需要24到32倍的網絡容量,以及新的水冷系統來管理芯片集群的散熱,因此相關設施需要“完全重新設計”。

隨著工作的推進,Meta制定內部計劃,著手開發一種新的自主芯片。這種芯片可以像GPU一樣訓練AI模型並執行推理,目前計劃在2025年左右完成。

Meta發言人卡維爾表示,一些數據中心建設項目目前處於暫停狀態並將過渡到新設計,這些項目將於今年晚些時候重新啟動。他拒絕就Meta內部的芯片項目置評。

3

產品落地進展緩慢

在擴大GPU算力的過程中,Meta目前幾乎沒有任何新的產品技術可以展示。相比較之下,微軟和谷歌等公司正在推動生成式AI產品的公開商用(必應聊天、Bard等)。

今年2月,Meta首席財務官Susan Li承認目前沒有將太多算力投入到生成式AI。她表示,“我們所有的AI能力基本上都給廣告、信息流和短視頻Reels”。

根據消息人士的說法,直到去年11月ChatGPT推出後,Meta才開始重視生成式AI產品。他們表示, Facebook的AI實驗室FAIR雖然從2021年末就開始發佈相關技術的原型,但並沒有把研究轉化為產品。

隨著投資者興趣的提升,情況正在改變。2月,紮克伯格宣佈成立一支頂級生成式AI團隊,將“大幅推動”公司在該領域的工作。

Meta首席技術官Andrew Bosworth本月也表示,生成式AI是目前他和紮克伯格花時間最多的領域,預計將在今年發佈一款相關產品。

兩名熟悉新團隊的人士表示,該團隊的工作處於早期階段,重點是構建基礎模型作為核心,未來可以針對不同產品需求進行調整。

Meta發言人卡維爾表示,一年多來,Meta的許多團隊都在開發生成式AI產品。他證實,在ChatGPT到來後的幾個月裡,這方面工作已經提速。


相關推薦

2024-03-04

蘋果公司終於放棄造車夢,把目光轉向科技領域目前最火熱的生成式人工智能(AI)上。但是,蘋果在AI上的投資已大大落後於競爭對手,追趕起來也要付出昂貴的代價,造車的錢可能都不夠用。蘋果在向公司內部宣佈停止造車的同

2024-02-11

個Meta,或者11.5個特斯拉。昨天,SamAltman籌資7萬億美元建芯片帝國的新聞一出,輿論嘩然。7萬億美元,是全球GDP的10%,大約是美國GDP的1/4,或者2/5個中國的GDP。這個數字實在令人難以理解,除非OpenAI確信,自己的技術就從根本

2023-03-09

幾個月時間裡將“生成式人工智能”技術集成到所有主要產品中。人工智能本應該是谷歌的優勢。 多年來,谷歌一直在進行各種長遠的技術投資,支撐前一代人工智能聊天機器人的許多研究都是在谷歌旗下實

2024-03-01

本周全球社交媒體巨頭、虛擬現實&AI賽道概念股Meta的首席執行官紮克伯格展開亞洲行,展現出該公司在全球智能化轉型的大背景下積極佈局的姿態。作為AI開源大模型的第一梯隊企業,本周有報道稱Meta有望在今年7月發

2023-02-27

早。王振華是韋豪創芯投資管理有限公司的副總經理兼XR賽道負責人,這傢公司是國內CIS龍頭企業韋爾股份(603501.SH)作為基石股東的唯一一傢產業投資平臺,他們的投資生態佈局圍繞泛半導體產業鏈展開。與虎嗅見面之前,王

2023-04-11

當今最熱的科技話題非AI莫屬。但是,並非所有人都對此滿懷期待。據媒體的最新曝光,兩名前Google員工表達他們對公司發佈新的AI聊天機器人的擔憂。今年3月,兩名負責審查AI產品的Google員工試圖阻止該公司推出自己的AI聊天機

2023-11-08

測版的發佈,馬斯克真正進入生成式AI這條目前最熱門的賽道,實現他與OpenAI、谷歌、微軟、Meta進行AI競爭的夙願。考慮到他與OpenAI之間的微妙關系,以及上周馬斯克突然宣佈發新的時機選擇,有理由相信馬斯克是刻意選擇在Open

2023-01-22

等模型整合到自傢系統中的能力。微軟已經在其許多消費產品中內置AI工具,例如其必應搜索引擎中的Dall-E 2功能,可以根據文本提示生成圖像。最近有媒體報道稱,微軟正在努力將更多AI工具植入Microsoft Office。微軟首席執行官

2024-04-02

1 秒內處理 200 多部全高清( FHD )級別的電影。別看 HBM 賽道目前還有 SK 海力士、三星和美光禦三傢在玩,但無論是從發展時間、技術突破還是量產速度上, SK 海力士一直獨占鰲頭,光他們一傢就占領一半左右的市場份額。排

2024-03-06

代表會面,如何加強在擴展現實(XR)設備領域和當前火熱的人工智能(AI)領域的合作,是紮克伯格此行的重點。根據韓國政府去年發佈的“數字戰略”,韓國的目標是到2027年成為僅次於美國和中國的世界第三大人工智能強國

2023-02-08

它是革命性的,但是我們知道,它就是一個組合得很好的產品,僅此而已。ChatGPT絕不是一種開拓式的創新。2月4日,LeCun再次發推,更加直白地表示“在通往人類級別AI的道路上,大型語言模型(Large language model)就是一條歪路”

2024-02-08

人設,安在蘋果頭上,卻讓人覺得有些違和。畢竟蘋果的產品利潤不但高的離譜, iOS 15 偷偷掃描用戶相冊的醜聞,也早已被公之於眾。另外,雖然隱私政策的修改,會傷害 iOS 生態下以在線廣告為核心的企業,但這有利於蘋果

2023-01-11

Chiplet模塊化設計封裝Chiplet的互聯標準將逐漸統一,重構芯片研發流程。3、存算一體資本和產業雙輪驅動,存算一體芯片將在垂直細分領域迎來規模化商用。4、雲原生安全安全技術與雲緊密結合,打造平臺化、智能化的新型安

2024-04-21

為,你可以用軟件做很多事情,但在某種程度上你會受到芯片限制,繼而受到物理方面的限制,此外還受到能源的限制。Dwarkesh Patel:我認為保留選擇餘地是有意義的,因為有太多我們不知道的事情。很多事情看起來都是有可能的