谷歌的又一波反擊!開放大語言模型PaLM API


事到如今,OpenAI的ChatGPT在AI社區的統治地位已經無需多言。特別是OpenAI開放ChatGPT的API之後,在開發者社區掌握極大的話語權。反觀Google那邊,在第一波發佈Bard失利之後,一直處於沉默狀態。

但在今日,Google組織第二波反擊:開放自傢的大語言模型 API “PaLM API”,此外今天Google還發佈一款幫助開發者快速構建 AI 程序的工具 MakerSuite。Google表示,此舉是為幫助開發者們快速構建生成式 AI 應用。


但略為遺憾的是,Google目前是向選定的開發人員提供這些工具,而非全面開放。

基於 PaLM 模型的 API

毫無疑問,PaLM API 是今天Google發佈的公告的核心。

Google介紹稱,PaLM API 是 Google 大型語言模型的入口,可用於各種應用程序。它將為開發者提供面向對輪交互而優化的模型,如內容生成與對話。它也能為開發者提供摘要、分類等多種任務的通用模型。


從名字可以開出,此次開放的大語言模型 API 是基於Google去年發佈的 PaLM。這是Google基於 Pathways 系統訓練的一個 5400 億參數的大型語言模型。

為訓練這個模型,Google動用 6144 塊 TPU,讓 Pathways 在兩個 Cloud TPU v4 Pods 上訓練 PaLM。

強大的系統和算力投入帶來驚艷的結果。Google在數百個語言理解和生成任務上評估 PaLM,發現它在大多數任務上實現 SOTA 少樣本學習性能,可以出色地完成笑話解讀、bug 修復、從表情符號中猜電影等語言、代碼任務。


隨著規模的增加,模型在處理多個任務時的性能逐漸提高,而且還在不斷解鎖新的能力

關於 PaLM,讀者們可以查看論文《PaLM: Scaling Language Modeling with Pathways》。

此外,Google公告稱,後續會開放更多規模與功能不同的模型。PaLM 是Google選擇的第一個版本,所以後續我們也可以期待下 LAMDA API 等。

MakerSuite 工具

在過去的幾年裡,Google一直在構建和部署大型語言模型 —— 從將 MUM 引入搜索到在 AI Test Kitchen 中使用 LaMDA 構建 APP。Google表示,開發人員必須使用不同的工具來完成任務,例如制作和迭代 prompt、生成合成數據以及精調自定義模型。

MakerSuite 是一種簡化此工作流程的工具,讓用戶將能夠根據 prompt 進行迭代,使用合成數據擴充數據集,並輕松調整自定義模型。當你準備好編程時,MakerSuite 允許將 prompt 導出為你最喜歡的語言和框架(如 Python 和 Node.js)的代碼。

Google表示,借助 MakerSuite,你能夠直接在瀏覽器中快速測試和迭代調整後的模型。


最後補充一句我們觀察到的結果:Google今日的兩篇博客發佈後,似乎已經引起一些人的不滿:並非全面開放、也沒有定價。也許,可以說相比之前 ChatGPT API 的開放,Google這一波反擊,也略顯失敗。



相關推薦

2023-05-11

快科技5月11日消息,谷歌年度開發者大會Google I/O 2023上,PaLM 2大模型正式發佈,準備向OpenAI的GPT-4等競爭對手發起挑戰。據解,PaLM 2是谷歌首個從頭開始構建的多模態模型,具有不同規模的高度能力,並能有效地與其他工具和API

2023-05-11

5月11日上午消息,北京時間今日凌晨,2023谷歌I/O大會正式舉辦,本次發佈會,在生成式人工智能熱潮的席卷之下,人工智能的影子遍佈整場谷歌I/O大會。發佈會現場,谷歌發佈第二代大語言模型AI語言模型PaLM2,基於新訓練模型

2024-03-12

什麼?谷歌成功偷傢OpenAI,還竊取到gpt-3.5-turbo關鍵信息???是的,你沒看錯。根據谷歌自己的說法,它不僅還原OpenAI大模型的整個投影矩陣(projectionmatrix),還知道確切隱藏維度大小。而且方法還極其簡單——隻要通過API訪

2023-05-11

5月11日消息,據外媒報道,當地時間周三,谷歌在谷歌I/O大會上發佈最新的人工智能(AI)語言模型PaLM 2,與OpenAI旗下的新一代大型語言模型GPT-4等系統展開競爭。2022年4月,谷歌首次發佈PaLM語言模型。PaLM 2在PaLM 1的基礎上進行

2023-03-09

模型驅動真正的機器人也已經提上日程。本周老牌AI大廠谷歌與柏林工業大學的研究人員聯合發佈PaLM-E視覺語言模型,通過同時處理圖像和語言文本,解鎖人類與機器人交互的新篇章。(預印本論文,來源:谷歌、柏林工業大學

2023-05-12

過去兩個交易日,谷歌母公司Alphabet收盤漲幅連續超過4%,股價已經悄然回升到去年8月以來的最高價位,市值再次站上1.43萬億美元。看起來,谷歌在I/O大會上交出的AI成績單得到資本市場的認可。而這正是谷歌高層所希望傳遞出

2023-04-05

4月5日消息,當地時間周二,Alphabet旗下的谷歌公開一些新細節,展示用於訓練人工智能模型的超級計算機,稱其比英偉達A100芯片的系統更快、更節能。谷歌公司設計自己的定制芯片,稱為TensorProcessingUnit(TPU),並將這些芯片應用

2023-05-11

北京時間5月11日凌晨消息,谷歌CEO桑達爾·皮查伊(SundarPichai)今日在谷歌I/O大會上發佈其最新的人工智能(AI)語言模型“PaLM2”,向OpenAI的GPT-4等競爭對手發起挑戰。皮查伊稱:“PaLM 2在邏輯和推理方面進行廣泛的訓練,具有

2023-05-17

據報道,谷歌上周發佈的最新大語言模型使用的訓練數據,幾乎是2022年的上一代模型的5倍。得益於此,該模型在編程、數學和創意寫作方面的表現更為優秀。谷歌是在其I/O開發者大會上發佈最新通用大語言模型PaLM2的。內部文

2023-05-12

5月12日消息,當地時間本周三,谷歌宣佈將生成式人工智能引入搜索引擎,這可能是谷歌搜索引擎歷史上最大的變化之一。但網絡出版商普遍擔心,全新的谷歌搜索可能會影響到他們網站的流量。在一年一度的開發者大會上,谷

2023-05-11

新版PaLM2超強進化,辦公全傢桶Workspace全面升級,Bard全面增強、所有人可用……可以看出,這屆I/O大會,Google是真的憋出不少大招。GoogleI/O2023大會,仿佛又給Google的支持者們打一針強心劑。此前,因為微軟和OpenAI的優異表現,Go

2023-05-11

谷歌將其人工智能聊天機器人bard升級為最新的語言模型palm 2,增強其功能,並增加視覺搜索,人工智能圖像生成以及與谷歌地圖集成等新功能。升級後的bard還支持多種語言,並可以將生成的內容導出到google docs和gmail。此次升級

2022-10-22

最近,谷歌研究員發佈關於指令微調的最新工作!然而卻宣傳圖中出現可笑的烏龍。幾個小時之前,谷歌大腦的研究員們非常開心地曬出自己最新的研究成果:“我們新開源的語言模型Flan-T5,在對1,800多種語言的任務進行指令微

2023-02-10

一個小小的錯誤,市值蒸發千億美元。投資者對谷歌是有多緊張?谷歌股價周三收盤暴跌7.4%,市值蒸發1000億美元,成為當天股價表現最差的科技公司。而導致谷歌股價大跌的直接原因竟然是,這傢搜索巨頭剛剛發佈的AI聊天工