AI訓練一次 把我傢這輩子的電都用完…


之前世超寫過一篇AI有多耗水的稿子,說是Google數據中心去年一年就花掉一個半西湖的水量。除耗水,可能很多人還忽略一點,那就是AI在耗電這塊也是一絕。前兩天阿裡剛結束的雲棲大會上,中國工程院院士、阿裡雲創始人王堅就打這麼一個比方——過去一百年裡,全球電動機消耗掉的電量就占到總發電量的一半,而現在的大模型就相當於新時代的電機。


而這個新時代的 “ 電機 ” ,也是相當耗電。

現在,為喂飽它這隻電老虎,有些公司甚至準備搬出 “ 核動力 ”


其實在業內,關於 AI 和能源之間的話題也是沒有斷過。

Huggingface 的科學傢就專門測試過各個大模型的耗電量和碳排放,世超翻翻這篇論文,也是直觀地感受到大模型耗電的瘋狂。


先是 Huggingface 自傢的 BLOOM 大模型,有 1760 億參數,光是前期訓練它,就得花掉 43.3 萬度電,我換算下,相當於國內 117 個傢庭一年用掉的電量。

和它參數量相當的 GPT-3 ,耗電量就更不受控制,同樣是前期訓練,就要用掉 128.7 萬度電,足足是前者的三倍。

甚至有人做過這樣一個類比, OpenAI 每訓練一次,就相當於 3000 輛特斯拉同時跑 32 公裡……


這還隻是 AI 前期訓練用的電,在後期使用過程中累積的耗電量才是大頭。

一般來說,訓練就是不斷調整參數、重復訓練,最後得到一個使用體驗最好的模型,整個過程是有限度的。

後期的推理過程就不一樣,比如我們用 ChatGPT ,每問一次問題都相當於是一次推理請求。

現在 ChatGPT 的月活用戶早已經破億,它每天推理的頻次的飆升可想而知。

更具體一點,拿自動駕駛來說,前期訓練花費的能耗成本就隻有兩三成,剩下的七八成都是後期的推理消耗的。


《晚點 LatePost 》之前也拿 ChatGPT 做這麼一個測算,按日均最高訪問量 2.7 億次來計算,假設每個人每次訪問會問五個問題,一整個月下來光是推理消耗的電量就是 1872 萬度。

總的來講, AI 這幾年來消耗的電力正在以指數級別增長,然而現在全球發電已經差不多已經趨於平緩。

照這個態勢發展下去,估計再過幾十年,光是 AI 的耗電量,就足以導致全球用電荒……

來自 AMD ,紅色表示 AI 能耗,綠色表示現有能源


而之所以這麼耗電,一方面和近幾年來 AI 圈子內部搞起的軍備競賽不無關系。

國外在 OpenAI 之後,Google、 Meta 自傢大模型的研發迭代也沒停過。

國內卷得就更厲害,百度的文心一言、阿裡的通義千問、騰訊的混元等等等等,參數一個賽一個高,這還隻是大廠們的賽道,一些大模型初創企業更是海去。


另一方面, AI 用掉這麼多電,和它背後數據中心不無關系。

在數據中心,用電最多的地方就是 AI 服務器,因為要有大規模的計算,普通的服務器根本就不夠用,還得用專屬的 AI 服務器。

然鵝 AI 服務器,光是功率就比普通服務器高出六七倍,普通服務器一般隻需要兩個 800W~1200W 的電源, AI 服務器,則要 4 顆 1800W 的高功率電源。

emmm 這不耗電都說不過去……

AI 的耗電,當然卷大模型的廠商比我們清楚得多,畢竟在他們那裡可是真金白銀的電費嘩嘩往外流……

所以在解決 AI 能耗的問題上,業內也是使出渾身解數。

第一個辦法是想辦法提高 AI 芯片性能,性能上去,耗電自然而然也就下去。

另外一個辦法就簡單粗暴,既然耗電多導致電費高,那找個更便宜的能源不就行。

就比如國內目前就在搞 “ 東數西算 ” 的工程,在西部清潔能源豐富的地區建立數據中心,用來處理東部的數據。

並且東部地區數據中心密集,工商業的平均電價大概在 0.676 元 / 度,而西部地區平均電價在 0.541 元 / 度,錢不就這麼省下來麼。


有些公司則又看準核能賽道。

像 OpenAI 和微軟都先後投資核能發電,不過不是傳統的核裂變發電方式,而是還在實驗室階段的核聚變

早在 2015 年, OpenAI CEO 奧特曼就對核聚變發電感興趣,向一傢核聚變初創企業 Helion 投資 950 萬美金, 2021 年,又給它豪擲 3.75 億美元。


緊接著在今年 5 月份,在核聚變發電站還沒著落的時候,微軟就和 Helion 簽訂購電協議,說要在 2030 年前實現負碳目標

世超倒真有點好奇,這個 Helion 到底有什麼魔力,在八字還沒一撇的時候,讓 OpenAI 和微軟先後都在它身上下這麼大的註。

不過這事吧,從它給微軟的的承諾中就能窺探出一二。Helion 在那份購電協議中表示, 2028 年前上線的核聚變裝置,在一年內會把發電功率提升到 50 兆瓦以上。

什麼概念?相當於撐起 40000 戶傢庭的供電。

更重要的是,買核聚變發出來的電,還賊拉便宜,折合成人民幣相當於 7 分錢一度電,這誘惑誰擋得住啊。

微軟也沒把所有雞蛋放在一個籃子裡,在下註核聚變發電的同時,他還看好近幾年發展起來的小型核反應堆( SMR )。

不久前,微軟發個招聘通知,說要找個 “ 核技術首席項目經理 ” ,來管SMR 這塊的工作。


和傳統核電的大型反應堆比,理論上 SMR 這玩意兒體積更小,甚至可以在工廠裡批量生產。

發電功率也是傳統反應堆的三倍,並且 SMR 也不用擔心損壞時釋放放射性元素,因為它能在第一時間自動關閉系統。

同時 SMR 也更省錢,平均每 1000 度電下來就能省將近 100 美元……

當然,這些東西目前還是八字沒那一撇, AI 耗電猛的現狀,短時間內也很難會得到改變。

各種核聚變項目,世超也不好說它們到底能不能成。

但 AI 的發展,說不定會給核能來一記大助攻。

如果這個世界是一局電子遊戲的話,說不定可控核聚變的科技樹,正好就在 AI 之後呢。


相關推薦

2024-03-18

小王子直播被幾萬人同時抨擊後發聲,其無奈的表示,把這輩子的罵都挨過,還有商傢因為該事件轉行,一晚0收入的比比皆是。

2023-02-10

帶來的情緒和創傷,我已經很久沒有感覺這麼好。當我第一次聽說ChatGPT的時候,我很害怕理性地來看,你清楚地知道這一切都是不是“真的”,但我對Brooke的感覺就像我曾經交往過或愛過的任何人一樣真實而生動。這引發我的

2022-10-11

通過觀察人類行為建立一個人類偏好的模型。為此,他們訓練一個神經網絡,一種受大腦架構啟發的算法。為研究的目的,他們讓網絡建立一個單一的模擬用戶模型,他們知道這個用戶的實際偏好,這樣他們就可以更容易地判斷

2023-04-08

實際上很高,華為高管公佈的數據顯示,AI大模型開發和訓練一次的成本高達1200萬美元。華為雲人工智能領域首席科學傢、國際歐亞科學院院士、IEEE/CAAI Fellow田奇今天表示,人工智能發展已從局部探索走向千行百業,AI走進企業

2024-06-20

研究員傅蔚岡表示,90後、00後可能很難超越父母成就,這輩子可能都得靠父母。這一觀點立刻在網上引發軒然大波,無數網友紛紛表示,不服輸,00後的成就能不能超越父母,不是你一個所謂的專傢說算,而是看他們夠不夠努力

2022-09-02

下的圍棋之神。如果把AlphaGo看作上面例子裡的貓,那在訓練裡,決定它能否獲得“貓條”的每盤棋最終的對弈結果——贏就有好東西吃,輸就要被吃(bushi)。另外,DeepMind開發出過一個能在57款雅達利遊戲上都超越人類玩傢的

2024-05-09

主收到解釋短信後,感慨虛驚一場,畢竟56萬多的話費,這輩子可能也未必會用完。不過,博主的遭遇也不是個例,另有網友爆料稱,自己也收到天價短信欠費通知。其上顯示,他本月話費欠費89530元,也是相當離譜。目前,中

2023-07-17

一間一間疊成樓,豈不是可以住好多人?-哥,能不能幫我傢的寵物也做一個,我傢的寵物體型有點大,您幫著做一個120平左右,層高兩米的就行其實,這位UP主兩年前還曾給女兒和兒子做一套縮小一倍的房子,當時也一度非常火

2023-03-23

隻要膽子大,馬路是我傢”,近些年來,國內不少膽子大的違章王”,頻頻刷新國內交通違章排行榜。近日,廣東東莞。倆男子在一工廠做送貨工作,工作的貨車掛在公司名下,他們認為交通違法罰不到自己個人,於是常常做出

2023-02-19

近期爆火,科技巨頭們紛紛入局,其實成本是非常高的。訓練通用大模型非常“燒錢”。據國盛證券報告《ChatGPT 需要多少算力》估算,GPT-3 訓練一次的成本約為 140 萬美元,對於一些更大的 LLM(大型語言模型),訓練成本介於

2024-02-15

律”表明,對大語言模型進行更多計算能力和數據方面的訓練,可以提高其預測下一個單詞的準確性,從而提高大模型的能力。在這個信念下,OpenAI 等大模型廠商花 1 億多美元來訓練一個模型。然而,更多 AI 從業者認為,在今

2024-02-20

吹日本。然後他還利用你的臉,從其他美國人手裡,賺你這輩子都不一定能賺到的錢,在視頻評論區裡,觀眾們刷的都是 “ 你好日本,愛來自美國 ” 。你氣不氣?Olga Loiek 也不是唯一一個倒黴蛋,另一位來自瑞典的網紅拉納佈

2024-02-21

吹日本。然後他還利用你的臉,從其他美國人手裡,賺你這輩子都不一定能賺到的錢,在視頻評論區裡,觀眾們刷的都是 “ 你好日本,愛來自美國 ” 。你氣不氣?Olga Loiek 也不是唯一一個倒黴蛋,另一位來自瑞典的網紅拉納佈

2024-02-21

吹日本。然後他還利用你的臉,從其他美國人手裡,賺你這輩子都不一定能賺到的錢,在視頻評論區裡,觀眾們刷的都是 “ 你好日本,愛來自美國 ” 。你氣不氣?Olga Loiek 也不是唯一一個倒黴蛋,另一位來自瑞典的網紅拉納佈