有著“OpenAI勁敵”之稱的人工智能初創公司Anthropic即將成為首批使用谷歌新一代TPU芯片的公司之一,在最近達成雲計算服務協議後,此舉進一步加深雙方的合作關系。兩傢公司當地時間周三表示,Anthropic將部署谷歌CloudTPUv5e芯片,為其名為Claude的大語言模型(LLM)提供硬件支持。
ChatGPT最強競品Claude,以及類似ChatGPT的生成式AI應用程序通常使用大量數據來訓練人工智能界面,讓它們回答問題並生成基於人類邏輯的對話文本,而生成式AI成功運行的背後離不開最核心基礎設施——AI芯片的支撐,目前這一領域幾乎被英偉達GPU所壟斷。美國銀行和花旗統計數據顯示,英偉達在AI芯片領域份額達到驚人的90%。
谷歌TPU——為AI而生
但是,谷歌正在將“谷歌TPU”這一用於谷歌內部服務器的AI專用芯片推向全球各大科技公司。目前,谷歌正在大規模使用TPU芯片來支持旗下應用產品,比如聊天機器人巴德以及谷歌雲平臺。當前,谷歌高達90%以上的人工智能訓練工作都在使用這些芯片,TPU芯片體系支撐包括搜索引擎在內的谷歌主要業務。
谷歌雲平臺首席執行官Thomas Kurian表示,最新款的TPU芯片正在成為谷歌雲的最大賣點之一。除Anthropic,其他在人工智能領域備受矚目的初創公司,如Hugging Face和AssemblyAI也在大規模使用谷歌TPU芯片。
從技術層面上來看,與英偉達A100/H100等通用型GPU 相比,谷歌TPU設計初衷正是專註於深度學習領域,尤其是全面加速神經網絡訓練和推理效率。英偉達的A100和H100,它們屬於廣義上的通用型GPU,而不僅僅局限於深度學習和人工智能領域。這些GPU具有通用計算能力,適用於多種計算工作負載,包括但不限於:高性能計算(HPC)、深度學習以及大規模數據分析。
與英偉達通用型GPU相比,谷歌TPU采用低精度計算,在幾乎不影響深度學習處理效果的前提下大幅降低功耗、加快運算速度,尤其對於中型LLM設計者來說完全夠用,因此他們可能不需要依賴高性能的英偉達A100/H100。同時,TPU 使用脈動陣列等設計來優化矩陣乘法與卷積運算。谷歌TPU追求專註於AI訓練和推理,因此精簡化部分設計架構,這也是TPU功耗、內存帶寬和FLOPS都明顯低於英偉達H100的部分原因。
谷歌新一代TPU芯片——Cloud TPU v5e專為提供大中型訓練與推理所需的成本效益和性能而設計。TPU v5e Pods能夠平衡性能、靈活性和效率,允許多達256個芯片互連,聚合帶寬超過400 Tb/s和100 petaOps的INT8性能,使對應的平臺能夠靈活支持一系列推理和訓練要求。
與Cloud TPU v4相比,TPU v5e可為大語言模型和生成式AI模型提供每美元花費中高達2倍的訓練性能和2.5倍的推理性能。Cloud TPU v5e的成本不到TPU v4的一半,但可以讓更多企業訓練和部署更大、更復雜的AI模型。總體來看,與TPU v4相比,TPU v5e每美元的性能提高2.7倍。
科技巨頭們開啟“AI代理人競爭”:微軟扶持OpenAI 谷歌與亞馬遜選中Anthropic
隨著構建更大規模人工智能模型的競爭趨勢升溫,谷歌等科技巨頭正在與該領域前沿的初創公司建立密切的合作關系。據知情人士透露,Anthropic最近同意在未來四年向谷歌旗下的谷歌雲服務上花費逾30億美元。
谷歌方面,除提供新一代TPU,該科技巨頭此前已承諾向這傢初創公司投資20億美元,據知情人士透露,在最新一輪融資中,Alphabet旗下谷歌向Anthropic投資約5億美元,並承諾未來再投資約15億美元,這筆投資是在今年早些時候谷歌向Anthropic投入5.5億美元的基礎上所進行。
Anthropic自2021年成立以來一直使用谷歌雲服務。兩傢公司表示,作為新協議的一部分,Anthropic將更多地使用基於谷歌雲平臺的基礎設施和安全功能。
“我們對TPU的效率感到非常興奮。”Anthropic首席執行官Dario Amodei表示。“這些已經開始顯示出我們能夠獲得的收益。”
谷歌雲服務領域的競爭對手——亞馬遜,同樣是Anthropic的支持者。亞馬遜曾在一份文件中表示,它已經以可轉換票據的形式向Anthropic投資12.5億美元,並有能力以第二筆票據的形式再投資27.5億美元,這一選擇權將於明年第一季度到期。亞馬遜還與Anthropic達成協議,後者將使用AWS的雲服務和自研芯片。谷歌和亞馬遜與Anthropic協議的債務結構則未被媒體知悉。
亞馬遜還表示,Anthropic計劃“在AWS上運行其大部分工作負載”。Anthropic首席執行官Amodei則強調,Anthropic正在采取“多雲”的方式,這意味著它不會與任何一傢雲服務供應商進行獨傢性質的合作。
谷歌雲平臺首席執行官Thomas Kurian表示,他並不為Anthropic與AWS的合作感到困擾。他表示:“大公司總是希望選擇多雲體系——這有助於他們使用每種雲服務的最佳功能。”“我們已經習慣與其他雲提供商競爭和合作。”
提到 OpenAI 的競爭對手,Anthropic 往往被認為是最具潛力的對手。Anthropic由曾負責OpenAI風靡全球的ChatGPT研發工程的研究副總裁Dario Amodei所創立,Amodei帶著OpenAI另外5名負責GPT模型研發的員工一起出走,5名員工中的Tom Brown曾領導GPT-3模型的整個開發過程。
OpenAI和Anthropic都在用他們獨傢研發的前沿生成式人工智能技術構建聊天機器人。相比於ChatGPT,Anthropic所研發的聊天機器人Claude特別強調功能全面且回答更具責任性的生成式人工智能,以及大幅度減少AI技術中的偏見和歧視問題。
在一些AI業內人士看來,這一切看似是 OpenAI 與 Anthropic 的競爭,實則 OpenAI 背後的最大股東微軟與Anthropic 重要支持力量谷歌和亞馬遜之間的“雲計算戰爭“以及聚焦未來技術的”生成式AI大戰”。這三大科技巨頭試圖借助這些在AI領域有重大影響力的初創公司來進一步擴大雲服務市場規模,以及期望自身第一時間能夠捕捉最前沿的AI技術。