太燒錢!ChatGPT一次運算花費450萬美元


去年11月底,OpenAI發佈ChatGPT人機對話交互模型ChatGPT可以回答連續性問題,可謂上知天文、下曉地理”,上線5天,就收獲100萬用戶。

據解,ChatGPT是GPT迭代出的第3.5個版本,2018年GPT-1誕生,到2022年,OpenAI為給GPT-4收集用戶反饋,而發佈GPT-3.5,也就是如今的ChatGPT。

微軟的AI大模型及強大算力是助力OpenAI的關鍵,OpenAI曾為讓GPT-3的表現更接近人類,用45TB的數據量、近1萬億個單詞來訓練它,大概是1351萬本牛津詞典。

大模型及其高算力對應的是高昂的資金消耗ChatGPT一次運算就要花費450萬美元,據美國《財富》雜志報道,2022年,OpenAI公司凈虧損總額為5.45億美元。

此外,ChatGPT測算生成一條信息的成本在1.3美分左右,是目前傳統搜索引擎的3到4倍,單次搜索成本過於高昂。

這樣高的研發門檻,註定目前主流的大模型多由大企業,或是背靠大企業的研究機構掌握,並且成為相關企業的護城河”。

模型是AI的靈魂,參數量越大,模型越復雜,做出來的預測就越準確。如今業界主流的AI生成類工具的大模型都是千億級、萬億級參數量的水平。

這些AI生成類工具可以學習各行各業的各類數據,除可以給出相較於小模型更準確的預測結果外,它也展現出驚人的泛化能力和遷移能力,產出的內容質量更高、更智能。


相關推薦

2022-12-10

芯片工藝越來越先進,今年三星量產3nm工藝,臺積電的3nm也是箭在弦上,明年就會是3nm的高光時代,2024到2025年則是2nm工藝量產。先進工藝生產出來的芯片性能更強大,能效也更好,但這也不是沒有代價的,最大的麻煩就是燒錢

2024-03-24

3月23日消息,總部位於英國倫敦的AI圖像生成頭部玩傢Stability AI突然宣佈公司 CEO Emad Mostaque 辭職。隨後,Emad Mostaque 在社媒平臺 X 上宣佈,自己離職後將致力於去中心化人工智能(DecentralizedAI)。Stability AI 公司在官網博客文章中

2023-05-11

全球宏觀經濟的不確定性。”今年初,伴隨著微軟支持的ChatGPT的火爆,各大中小企業在人工智能領域的大戰在全球開打。雖然AI在過去幾個月是微軟的核心亮點,但目前對微軟的收入沒有任何影響。微軟大部分銷售額仍然主要來

2024-04-01

搞AI大模型,實在太燒錢。我們知道,如今的生成式AI有很大一部分是資本遊戲,科技巨頭利用自身強大的算力和數據占據領先位置,並正在使用先進GPU的並行算力將其推廣落地。這麼做的代價是什麼?最近《華爾街日報》一篇

2023-02-19

ChatGPT近期爆火,科技巨頭們紛紛入局,其實成本是非常高的。訓練通用大模型非常“燒錢”。據國盛證券報告《ChatGPT 需要多少算力》估算,GPT-3 訓練一次的成本約為 140 萬美元,對於一些更大的 LLM(大型語言模型),訓練成本

2023-02-11

ChatGPT的熱度正在一路狂飆。“去年12月在機器學習圈曾持續熱議過,但是沒有現在每一個群都在交流和使用的狀況。這是除疫情,從未有過的現象。”有人如此感慨。一位AI產品經理向“甲子光年”表示,或許若幹年後回看AI行

2022-09-21

升有:1、流式多處理器(SM)著色器能力高達83TFlops(83萬億次運算每秒),吞吐量超過上一代產品的2倍。2、第三代RT Cores光追核心有效光追算力達到191TFlops(每秒191萬億次運算),是上一代產品的2.8倍,光線與三角形求交性能是上代的2

2023-02-24

最近幾個月世界上最大的科技新聞恐怕就是ChatGPT的火爆流行。ChatGPT是美國一個初創科技公司OpenAI開發的人工智能應用程序,2022年11月面向公眾開放,到今年1月已經積累1億用戶。我也是這1億用戶中的一員。這段時間我使用ChatGPT

2024-03-27

不能忽視AI技術對於能源的巨大消耗。此前有報道指出,ChatGPT為響應用戶請求,每天消耗的電力可能超過50萬千瓦時,這幾乎是美國普通傢庭平均用電量的1.7萬多倍。考慮到電力成本,這相當於每天需要支付高達53萬元的電費,

2022-10-18

分析認為可能是俄羅斯的電子幹擾所致。“星鏈”有多“燒錢”?SpaceX公司的“星鏈”系統由2200多顆低軌道衛星組成。馬斯克不久前在社交媒體上公開宣稱,“在烏克蘭運營的‘星鏈’系統已花費SpaceX公司8000萬美元,到今年年

2024-01-13

委婉的感嘆,其投入最大的還是移動通信標準,那個實在太燒錢。據悉,華為近十年累計投入研發費用超9773億元。2022年底,華為研發員工超過11.4萬名,占總員工數量的55.4%。長期的研發投入,使得華為成為全球最大的專利權人

2022-09-27

的差距。但為什麼賈躍亭搞那麼多年還隻是個PPT呢?造車太燒錢。據解,蔚小理都經過數輪融資,也都選擇上市募集資金。數據顯示,蔚來有過15輪融資,小鵬14輪,理想12輪。盡管蔚小理月交付量都在1萬以上,但仍然是處於巨

2022-12-25

美元,但是卡梅隆導演之前接受采訪時就提到,這部電影太燒錢,《阿凡達2:水之道》票房要達到20億美元才能回本,要想盈利還要更多票房才行。全球票房超過20億美元的電影總共也沒幾部,此前僅有《阿凡達》《復仇者聯盟4

2023-04-21

SemiAnalysis首席分析師迪倫·帕特爾(DylanPatel)表示,由於ChatGPT運行在價格昂貴的計算基礎設施之上,OpenAI每天為運行ChatGPT投入的成本可能高達70萬美元。帕特爾指出,ChatGPT需要龐大的算力,才能基於用戶的輸入信息做出反饋,