Google版圖滲入AI芯片領域 “OpenAI勁敵”官宣使用其最新TPU


有著“OpenAI勁敵”之稱的人工智能初創公司Anthropic即將成為首批使用谷歌新一代TPU芯片的公司之一,在最近達成雲計算服務協議後,此舉進一步加深雙方的合作關系。兩傢公司當地時間周三表示,Anthropic將部署谷歌CloudTPUv5e芯片,為其名為Claude的大語言模型(LLM)提供硬件支持。

ChatGPT最強競品Claude,以及類似ChatGPT的生成式AI應用程序通常使用大量數據來訓練人工智能界面,讓它們回答問題並生成基於人類邏輯的對話文本,而生成式AI成功運行的背後離不開最核心基礎設施——AI芯片的支撐,目前這一領域幾乎被英偉達GPU所壟斷。美國銀行和花旗統計數據顯示,英偉達在AI芯片領域份額達到驚人的90%。

谷歌TPU——為AI而生

但是,谷歌正在將“谷歌TPU”這一用於谷歌內部服務器的AI專用芯片推向全球各大科技公司。目前,谷歌正在大規模使用TPU芯片來支持旗下應用產品,比如聊天機器人巴德以及谷歌雲平臺。當前,谷歌高達90%以上的人工智能訓練工作都在使用這些芯片,TPU芯片體系支撐包括搜索引擎在內的谷歌主要業務。

谷歌雲平臺首席執行官Thomas Kurian表示,最新款的TPU芯片正在成為谷歌雲的最大賣點之一。除Anthropic,其他在人工智能領域備受矚目的初創公司,如Hugging Face和AssemblyAI也在大規模使用谷歌TPU芯片。

從技術層面上來看,與英偉達A100/H100等通用型GPU 相比,谷歌TPU設計初衷正是專註於深度學習領域,尤其是全面加速神經網絡訓練和推理效率。英偉達的A100和H100,它們屬於廣義上的通用型GPU,而不僅僅局限於深度學習和人工智能領域。這些GPU具有通用計算能力,適用於多種計算工作負載,包括但不限於:高性能計算(HPC)、深度學習以及大規模數據分析。

與英偉達通用型GPU相比,谷歌TPU采用低精度計算,在幾乎不影響深度學習處理效果的前提下大幅降低功耗、加快運算速度,尤其對於中型LLM設計者來說完全夠用,因此他們可能不需要依賴高性能的英偉達A100/H100。同時,TPU 使用脈動陣列等設計來優化矩陣乘法與卷積運算。谷歌TPU追求專註於AI訓練和推理,因此精簡化部分設計架構,這也是TPU功耗、內存帶寬和FLOPS都明顯低於英偉達H100的部分原因。

谷歌新一代TPU芯片——Cloud TPU v5e專為提供大中型訓練與推理所需的成本效益和性能而設計。TPU v5e Pods能夠平衡性能、靈活性和效率,允許多達256個芯片互連,聚合帶寬超過400 Tb/s和100 petaOps的INT8性能,使對應的平臺能夠靈活支持一系列推理和訓練要求。


與Cloud TPU v4相比,TPU v5e可為大語言模型和生成式AI模型提供每美元花費中高達2倍的訓練性能和2.5倍的推理性能。Cloud TPU v5e的成本不到TPU v4的一半,但可以讓更多企業訓練和部署更大、更復雜的AI模型。總體來看,與TPU v4相比,TPU v5e每美元的性能提高2.7倍。


科技巨頭們開啟“AI代理人競爭”:微軟扶持OpenAI 谷歌與亞馬遜選中Anthropic

隨著構建更大規模人工智能模型的競爭趨勢升溫,谷歌等科技巨頭正在與該領域前沿的初創公司建立密切的合作關系。據知情人士透露,Anthropic最近同意在未來四年向谷歌旗下的谷歌雲服務上花費逾30億美元。

谷歌方面,除提供新一代TPU,該科技巨頭此前已承諾向這傢初創公司投資20億美元,據知情人士透露,在最新一輪融資中,Alphabet旗下谷歌向Anthropic投資約5億美元,並承諾未來再投資約15億美元,這筆投資是在今年早些時候谷歌向Anthropic投入5.5億美元的基礎上所進行。

Anthropic自2021年成立以來一直使用谷歌雲服務。兩傢公司表示,作為新協議的一部分,Anthropic將更多地使用基於谷歌雲平臺的基礎設施和安全功能。

“我們對TPU的效率感到非常興奮。”Anthropic首席執行官Dario Amodei表示。“這些已經開始顯示出我們能夠獲得的收益。”

谷歌雲服務領域的競爭對手——亞馬遜,同樣是Anthropic的支持者。亞馬遜曾在一份文件中表示,它已經以可轉換票據的形式向Anthropic投資12.5億美元,並有能力以第二筆票據的形式再投資27.5億美元,這一選擇權將於明年第一季度到期。亞馬遜還與Anthropic達成協議,後者將使用AWS的雲服務和自研芯片。谷歌和亞馬遜與Anthropic協議的債務結構則未被媒體知悉。

亞馬遜還表示,Anthropic計劃“在AWS上運行其大部分工作負載”。Anthropic首席執行官Amodei則強調,Anthropic正在采取“多雲”的方式,這意味著它不會與任何一傢雲服務供應商進行獨傢性質的合作。

谷歌雲平臺首席執行官Thomas Kurian表示,他並不為Anthropic與AWS的合作感到困擾。他表示:“大公司總是希望選擇多雲體系——這有助於他們使用每種雲服務的最佳功能。”“我們已經習慣與其他雲提供商競爭和合作。”

提到 OpenAI 的競爭對手,Anthropic 往往被認為是最具潛力的對手。Anthropic由曾負責OpenAI風靡全球的ChatGPT研發工程的研究副總裁Dario Amodei所創立,Amodei帶著OpenAI另外5名負責GPT模型研發的員工一起出走,5名員工中的Tom Brown曾領導GPT-3模型的整個開發過程。

OpenAI和Anthropic都在用他們獨傢研發的前沿生成式人工智能技術構建聊天機器人。相比於ChatGPT,Anthropic所研發的聊天機器人Claude特別強調功能全面且回答更具責任性的生成式人工智能,以及大幅度減少AI技術中的偏見和歧視問題。

在一些AI業內人士看來,這一切看似是 OpenAI 與 Anthropic 的競爭,實則 OpenAI 背後的最大股東微軟與Anthropic 重要支持力量谷歌和亞馬遜之間的“雲計算戰爭“以及聚焦未來技術的”生成式AI大戰”。這三大科技巨頭試圖借助這些在AI領域有重大影響力的初創公司來進一步擴大雲服務市場規模,以及期望自身第一時間能夠捕捉最前沿的AI技術。


相關推薦

2024-07-30

其人工智能系統Apple Intelligence所依賴的模型並非基於NVIDIA芯片,而是在谷歌設計的雲端芯片上進行預訓練的。NVIDIA的GPU一直以高價位和高需求著稱,是許多大型科技公司AI訓練的首選。然而,蘋果選擇谷歌的張量處理單元(TPU)

2024-02-22

昨日晚間,Google毫無預兆地發佈開源模型Gemma,直接狙擊Llama2,繼通過Gemini拳打OpenAI後,試圖用Gemma腳踢Meta。不同於Gemini的“全傢桶”路線,Gemma主打輕量級、高性能,有20億、70億兩種參數規模,能在筆記本電腦、臺式機、物聯

2022-07-06

的GPU是和不同的機器學習訓練框架兼容性最好的。例如,Google、Intel和GraphCore都上傳使用非NVIDIA GPU的結果(Google使用TPU v4,Intel使用Habana Gaudi芯片,而Graphcore使用Bow IPU),但是這些競爭芯片對於深度學習框架支持的廣度都不及NVI

2023-11-15

速擴大的雲計算人工智能市場占有一席之地。AlphabetInc、Google和亞馬遜和亞馬遜公司已在某些情況下部署自己的專有AI芯片,但也在不斷轉向英偉達。但現在,英偉達正面臨著英特爾和AMD的競爭,這兩傢公司也在積極開拓這一細

2024-03-17

器。據其爆料,英偉達高管已經與亞馬遜、Meta、微軟、Google和OpenAI的代表會面,討論為他們生產定制芯片的事宜,除數據中心芯片外,英偉達還在尋求電信、汽車和視頻遊戲的客戶。路透社的這份報道,意味著英偉達要以強勢

2023-12-07

時代變?迄今為止規模最大,能力最強的Google大模型來。當地時間12月6日,GoogleCEO桑達爾・皮查伊官宣Gemini1.0版正式上線。這次發佈的 Gemini 大模型是原生多模態大模型現在,Google的類 ChatGPT 應用 Bard 已經升級到 Gemini Pro 版本,

2023-05-11

在組建GPU大軍,以提供更多的AI火力。在今天舉行的年度GoogleI/O開發者大會上,Google宣佈一款擁有26,000個GPU的AI超級計算機——A3,這個超級計算機是Google與微軟爭奪AI霸權的鬥爭中投入更多資源進行積極反攻的又一證據。這臺超

2022-07-14

比例超20%,而創始人張亞林大約持有13.5%股份。自2016年,Google發佈TPU後,從雲端AI芯片和Arm服務器芯片來入局芯片領域,是互聯網企業的主流選擇。自研芯片可以補足采買芯片的適配性問題,換句話說就是可以根據自身業務特點

2024-03-09

在3月8日例行記者會上表示,關於所謂中國公民涉嫌竊取Google技術,作為原則她強調,中方一貫高度重視並積極保護知識產權,堅持公平、公正保護國內外知識產權所有者的合法權益。同時我們反對美方濫用國傢力量無理打壓中

2023-04-05

算機,硬件支持嵌入》的文章介紹谷歌自己設計的定制TPU芯片。谷歌目前90%以上的人工智能訓練工作都使用這些芯片。谷歌稱已經將4000多個TPU芯片連接成一臺超級計算機,這些芯片通過協同來訓練模型。目前各傢科技公司都在

2024-06-10

快科技6月9日消息,在AI芯片市場的熱潮中,不僅NVIDIA憑借其市值的驚人增長成為焦點,博通也悄然成為該領域的另一大贏傢。隨著人工智能技術的快速發展,定制芯片需求激增,博通憑借其在定制芯片領域的深厚積累,營收大

2024-03-06

上手體驗通道。Claude 3 Opus評測成績全面超過OpenAI GPT-4和GoogleGemini 1.0 Ultra,而且註意數學、編程等測試下方的“shot”數對比更令業界振奮的是,這個大模型,不是來自手握頂級人才、鈔能力和雄厚計算資源的科技大廠,而是來自

2023-02-07

面對氣勢洶洶的OpenAIChatGPT,Google真的急!Google母公司AlphabetCEO皮查伊今日凌晨發文,正式揭曉其AI旅程的“NextStep”———Bard,一款與ChatGPT相似的對話式AI服務。值得註意的是,受限於數據集,ChatGPT無法回答2021年後的信息。而Go

2023-12-07

的Gemini,終於在今天深夜上線!‘原生多模態’架構,是Google的史詩級創舉,Gemini也如願在多個領域超越GPT-4。這場仗,Google必不能輸。Google的復仇大殺器Gemini,深夜忽然上線!被ChatGPT壓著打整整一年,Google選擇在12月的這一天