不出意外地,OpenAI的首屆開發者大會,讓人特別意外。一夜醒來,大模型圈一隻腳踏入Agent的世界,另一隻腳則踏入GPTStore生態的河流中。美東時間11月6日,OpenAI開發者大會正式開啟,創始人兼CEO山姆·奧特曼站在臺上,45分鐘的密集輸出,再次展示什麼叫“遙遙領先”。
我們先簡單回顧一下這場發佈會的所有重點,其實無非就是三件事:
一是技術能力:GPT-4 Turbo升級6大新能力,包括128K的上下文長度、更強的控制能力,模型的知識升級、多模態能力(語音和CV)、模型微調定制和更高速率的限制,性能升級的同時,還對API調用的價格進行下調;
二是可復制的能力:從原來的GPT到GPTs,用戶可以打造專屬於自己的GPT助手,企業可通過OpenAI提供的全套工具鏈“all tools”在企業內部建設有價值的工具,同時也可以深入讓GPTs進化為一個個Agents,為智能體做準備;
三則是生態能力:企業不僅可以打造GPTs,更能將其上架在市場內,即GPT Store,可分享給其他用戶使用,以及獲得分成,類App Store的商業生態由此為出發點。
正如網易有道CEO周楓所言,“這次模型上主要是性能和成本的優化,而在應用和生態方面,做很多LangChain(開發工具鏈),LlamaIndex(開發數據框架)這些項目類似的工作,最終就是要實現以智能體作為AI App的願景。”
總之,OpenAI提供的生態能力解決當下大模型發展的幾個重要難點,而在此之上,大模型的應用層將迎來進一步爆發。
“很興奮,還有很多信息在消化。”
OpenAI發佈之後,光錐智能在與多位國內知名大模型創業者交流中,也感受到大傢對行業前景的期待,“OpenAI的多模態能力開放,對開發者是很大的利好,可以做的事情的邊界得到進一步拓展,我預計會有很多新的玩法出現。”月之暗面創始人楊植麟對光錐智能稱。
這45分鐘,為大模型火箭的二級爆發,再次添加燃料。
讓大模型,飛入尋常百姓傢
“有需求,打造生態,找落地。”OpenAI首屆開發者大會結束後,某傢國內大模型明星公司 CEO 對光錐智能發表極為簡短,卻信息量極大的點評。
市場對ChatGPT的需求,無疑是巨大的。在發佈會的開始,奧特曼報告 OpenAI 平臺和產品的一些數據,截至目前,已經有大約200萬開發人員在其API上構建各種各樣的應用,超過92%的全球500強企業正使用其產品,ChatGPT的周活躍用戶達到大約一億。
自GPT3.5問世到現在,每一次的升級都引領著大模型的下一個技術方向,不過,這次OpenAI GPT-4升級後的Turbo版本更像是查漏補缺。
首先是更長的上下文本長度,GPT-4Turbo上下文任務長度擴展至128K,相當於一本書的300多頁,是 GPT-4支持的8K上下文的16倍。不僅如此,奧特曼還強調在擴展文本長度的同時,還應該保持模型的準確性。
其次是彌補OpenAI一直以來的短板——安全可控和知識庫更新速度。針對前者,推出名為Json Mode的新功能,確保開發人員更容易調用API,提升對模型輸入和輸出的控制;即將推出“Copyright Shield”(版權保護)功能,若其企業和API用戶面臨版權侵權訴訟,OpenAI將為其承擔相應費用。針對後者,OpenAI平臺支持用戶導入文檔、數據庫來更新大模型的認知,同時還將新升級後的GPT-4Turbo認知理解更新到2023年4月。
最後,此次更新中,OpenAI的多模態能力開放進入到一個全新的階段。上一個時期,OpenAI用一年多的時間,實現ChatGP能說、能看、能聽,而現在才到多模態能力釋放的節點。DALL-E3、文生語音模型TTS(text-to-speech)、Whisper V3都將通過API的形式開放給開發者使用。
能力升級之後,為讓更多的開發者用起來,還做一個大降價。
奧特曼表示,不斷有開發者來向其抱怨,GPT-4定價太貴,也正是基於此,OpenAI這回幹脆來個大模型降價促銷。
降價後的GPT-4Turbo輸入token價格是GPT-4的三分之一,輸出token價格是原來的二分之一;GPT-3.5Turbo 4K 精調版本輸入token價格是此前的三分之一,輸出token價格是原來的二分之一;GPT-3.5Turbo 16K精調版本輸入token價格是之前的四分之一。
正如奧特曼所言開發者的需求是驅動OpenAI降價的根本原因,這背後還有技術、商業等多重因素。
從技術降本看,根據外媒爆料,OpenAI此次可能將Stateless API變為Stateful API,奧特曼此前曾表示,基於Stateful API,用戶不用再“重復一遍一遍地為同樣的歷史對話付費”,理論上Stateful API形式可將大模型應用的開銷削減為原來的二十分之一。
在商業上,OpenAI也一直在尋找突破點,從API、ChatGPT個人版再到企業版,一直在探索商業化。但其對手卻未給喘息的機會,微軟、Salesforce、開源生態主導者Meta都在以更具性價比的方式,背後“偷襲”OpenAI,商業化的緊迫感與日俱增。
OpenAI降價的背後,也代表著國外大模型已經進入到普惠化、追求高性價比的新時期。
對初創企業、開發者而言是落地的機會,對OpenAI這類公司也是挑戰,由降價而帶來的或許是技術能力、資源分配、算力等多方面的挑戰。
“在綜合考量後,我們優先考慮價格,但速度卻不能同時兼得,這將是接下來研究的重點”,奧特曼道。
據多名使用GPT-4開發工具的技術人員稱,GPT-4速率限制已經開始加倍。
“算力應該還好,OpenAI儲備足夠多”,楊植麟對此發表意見。
為創業者提供“築夢”工具
光錐智能在與多位大模型創業者交流過程中發現,很多創業者不是缺乏好點子和創業想法,而是受困於數據、算力、工具、部署、訓練、推理等一個個的技術難題。
比如,知乎上一位基於大模型開發的對話解謎小遊戲的開發者,就因為遊戲用戶數量遠超預期,導致算力不足而被迫關閉整個遊戲,留給玩傢的隻有一片遺憾和不舍。
同樣在國內,創業者們不是不知道Agent是未來的創業方向,而是心有餘力不足。一位Agent創業者告訴光錐智能,“數據清洗、長文本記憶、代碼編寫、運行測試、部署落地、成本等等九九八十一難,關關難過,關關卡死每一個創業公司”。
據光錐智能解,無論國內外,Agent離落地還差得很遠,目前比較確定的場景可能是Code Agent。原因在於,編碼本身就屬於大模型訓練推理和Agent執行任務的一環,距離最近,改造也越容易。
而現在,OpenAI發佈的all tools工具、assistant API(助手API)則有希望使上述這些問題迎刃而解。
assistant API 是OpenAI專門為AI Agent開發者量身打造的工具助手,涵蓋長線程(Threading)、知識庫(Retrieval) 、代碼解釋器(Code interpreter)、函數調用(Function calling)幾項工具。
持久且無限長的線程,允許開發人員將線程狀態管理移交給OpenAI並解決上下文窗口約束;支持檢索功能,利用模型之外的知識來增強,例如專有領域數據、產品信息或用戶提供的文檔;支持代碼解釋器功能,與ChatGPT Plus中一樣,可以在沙盒執行環境中編寫和運行Python代碼,生成圖形和圖表,並處理具有多種數據和格式的文件;函數調用功能也迎來更新,現在可以一次性調用多個函數,並把響應合並到消息輸出中。
總而言之,這些新功能精準切中開發者們卡脖子的痛點,在OpenAI打造的全流程工具鏈上開發運行,將降低研發的門檻,縮短研發、測試周期,同時節省人力成本。
“我們對OpenAI又愛又恨,一方面它升級的工具有可能一瞬間讓我們的業務跑通,但另一方面,我們也得時刻警惕被OpenAI取而代之”,一位Agent創業者道。
讓我們聚焦這次發佈會的主角——“Agent”。奧特曼給Agent下的定義為,人們利用工具、AI來建立更個人化和定制化的分身,這些分身可以代表個人做很多事情。用戶隻需詢問計算機所想要的東西,Agent分身就能替你完成所有任務。
光錐智能梳理OpenAI做Agent思路後發現,Agent不是憑空而來,一切都基於GPT的大模型,在大模型基礎上先是長出GPT的分身“GPTs”,而後才是“AI Agent”。
“在OpenAI,我們一直篤定漸進的、迭代的部署是解決安全問題的最佳方式,即人工智能的安全挑戰。我們認為謹慎對待面向未來Agent尤為重要,這需要大量的技術工作以及關於社會的深思熟慮,所以我們正在邁出通往未來的一小步——GPTs”,奧特曼表示道。
OpenAI通向未來Agent之路已初現雛形,正如其所言,“這還隻是通向AI Agents邁出的第一步”,未來也許是多模態、多智能體。
初建大模型生態
技術的迭代固然讓人興奮,工具的推出也讓開發者們更加方便快捷,但更重要的是,OpenAI憑借一己之力,讓大模型的商業化進一步落地。
早在今年5月,OpenAI開放插件系統後,首批上線70個大模型相關的應用,包括猜詞、翻譯、查找股票數據等等工具,彼時便有人預測到,大模型的App Store來,但後期應用逐漸增加,卻並沒有跑出“爆款級”應用。
有投資人認為:現在的GPT Store很像剛剛面世時的小程序,處於能力逐步補齊中,此次升級便是逐漸走向成熟的象征,下一個微信或者抖音,很有可能在此誕生。
此次發佈會中,OpenAI重新梳理應用商店的體系,小幅調整頁面佈局,將ChatGPT變成與第三方應用並列的應用層級,並將開發范圍擴大到一個全新的范疇,按照奧特曼的說法,每一個GPT像是為ChatGPT的一個特殊目的,而量身定制的版本。
但讓人更為興奮的是,參考蘋果App Store,用戶可在GPT Store中搜索下載GPT應用,商店也將推薦生產力、教育和好玩等類別的優質產品,OpenAI也明確創建者可根據自有GPT的適用人數進行分成。這意味著,基於大模型的應用有“容器”,開發者找到買賣的“市場”。
舉個簡單的例子:大模型本身一塊塊地皮,工具箱是錘子釘子,不同的開發者將蓋不同房子,GPT Store則是一個房地產市場,也就是說,蓋出來房子不僅能自用,還能租出去和賣出去。
有商業化的“交易場”,創業者們就有正反饋,這使得創業不再隻靠激情和夢想,而是擁有現實收益的可能。
這或許也正是大模型創業者所言的“找落地”,上半年的AI創業離不開兩個字“燒錢”,5000萬的融資金額對大模型創業而言簡直是“滄海一瓢”,投資人不敢出手,創業者們也講不出新故事。
在現場,OpenAI的工作人員展示OpenAI搭建的一款旅遊GPT的用法:它不僅能列出巴黎旅遊建議,還能在地圖上將計劃中提到的地點按類別標記起來,而這完全可以對用戶收費或者進行會員制。
雖然,這並不代表每一個登陸GPT Store的應用都能賺到錢,但至少有一個窗口可以獲得第一批種子用戶,從而反哺產品進步,形成增長飛輪。
參考移動互聯網應用爆發的年代,每一個細分領域創業者都能挖掘出無數的需求形成應用,這或許也正是創業者們為之興奮的原因。
這時,才按下所有APP重新做一遍的啟動鍵。
“我們相信,AI會以一種前所未見的規模,予以個體和機構新的能力。這也將把整個人類提升到我們前所未見的規模”,奧特曼在結尾時提到。
顯然,OpenAI想做的,還有更多。基礎設施已經初步搭建完畢,剩下的,就是等時間和生態的其他角色,來開花結果。