ChatGPT官方API發佈:輸出100萬詞隻要2.7美金 成本砍掉90%


今日凌晨,OpenAI放出真正的ChatGPTAPI,不是背後的GPT-3.5大模型,是ChatGPT的本體模型!ChatGPTAPI價格為1ktokens/$0.002,等於每輸出100萬個單詞,價格才2.7美金(約18元人民幣),比已有的GPT-3.5模型便宜10倍。手快的開發者可以沖!


這將大大降低開發人員將ChatGPT集成到自傢應用和服務的門檻,構建屬於自己的AI聊天機器人。而且OpenAI將ChatGPT從去年12月至今的成本 砍掉90% ,令此前許多靠開發私有ChatGPT API接口賺差價的中間商們再無用武之地。

ChatGPT官方API基於GPT-3.5-turbo模型,是GPT-3.5系列中最快速、最便宜、最靈活的模型。 開發者可以通過OpenAI Playground和OpenAI Codex來使用和測試ChatGPT OpenAI。

此前一些公司已經率先接入ChatGPT API,包括生鮮電商平臺Instacart跨境電商平臺Shopify照片分享應用Snap單詞背誦應用Quizlet等,用於提高客戶服務、營銷、教育等效率及體驗。

OpenAI還在不斷改進其ChatGPT模型,並希望將增強功能也提供給開發人員。

使用該gpt-3.5-turbo模型的開發人員將始終獲得OpenAI發佈的穩定模型,同時仍然可以靈活地選擇特定模型版本。例如,今天發佈的gpt-3.5-turbo-0301,它至少會在6月1日之前推出特定版本,OpenAI會將gpt-3.5-turbo在4月更新到新的穩定版本。

此外,OpenAI還推出基於large-v2模型的Whisper官方API。Whisper是OpenAI去年9月發佈的開源自動語音識別(ASR)模型。開發者可用該功能來轉錄或翻譯音頻,費用為每分鐘0.006美元

01.ChatGPT官方API來!輸出100萬個Tokens隻要2美金

OpenAI官方宣佈,其發佈的ChatGPT模型系列與ChatGPT產品中使用的模型相同,對於許多非聊天應用場景,這仍然是他們的最佳模型。

一些早期的開發人員,從“text-davinci-003”模型遷移至“gpt-3.5-turbo”隻需根據提示進行少量調整。

一般情況下,GPT模型數據使用的是電子郵件文本、Twitter信息、博客、新聞等信息中的非結構化文本,這些文本在模型中表現為一系列的“Tokens”,tokens可以被看作將文本切分成的若幹個片段,1000個tokens大約是750個單詞。

而ChatGPT則改為使用一系列消息和元數據的新格式。在底層,輸入仍然以tokens序列呈現給模型,模型使用的原始格式就變為一種聊天標記語言ChatML的新格式。

OpenAI創建一個新端點來與ChatGPT模型進行交互。


值得註意的是,雖然0.002美元1000個tokens的價格並不貴,但1000個tokens在實際使用中數量並不算多,發送一段文本供API響應就可能會花費多個tokens。

例如一個簡單的字符串“ChatGPT is great!”,就被編碼為六個tokens:“Chat”、“G”、“PT”、“ is”、“ great”、“!”.

OpenAI提供一種工具來檢查解釋一串文本需要多少標記,並介紹稱一般的經驗法則是一個token通常對應於約4個字符。

02.為高需用戶提供專用實例,性價比更高

OpenAI還將為希望控制特定型號版本和系統性能的用戶提供專用實例(Dedicated instances),也就是希望通過API運行大量數據的開發人員。

默認情況下,開發人員是按照需求來付費,並且這些需求會執行在共享的計算基礎設施之上。使用專用實例,開發人員將按照時間段支付,分配計算基礎設施的費用,而這些基礎設施就是專門為這些開發人員保留的。

專用實例下,開發人員可以更好地控制使用的模型,包括希望它響應請求需要的時間以及與機器人對話可以持續多長時間等。

對於每天運營超過4.5億tokens的開發人員來說,專用實例可能性價比更高。

此外,這一條件下還可以根據硬件性能直接優化開發人員的工作負載,這可以顯著降低與共享基礎設施相關的成本。

03.社交、學習、配送、購物程序均已接入ChatGPT API

此前已經有幾傢公司接入ChatGPT API來創建聊天界面。

照片分享應用Snap,本周推出通過ChatGPT API接入的“My AI for Snapchat+”功能,其提供一個友好的、可定制的聊天機器人。用戶通過手機就可以與它聊天獲得建議,並在幾秒內為朋友寫一個笑話。


單詞背誦應用Quizlet推出Q-Chat,可以讓學生通過有趣的聊天體驗中提供的學習材料,來提出相應問題獲得知識。

生鮮電商平臺Instacart計劃在今年晚些時候推出“Ask Instacart”,這一功能可以幫助用戶在詢問食物相關問題時獲得一些想法,例如用戶可以問“對我的孩子來說,什麼是健康的午餐?”

跨境電商平臺Shopify的新購物助手,將會根據購物者的需求進行個性化推薦,通過掃描數百萬種產品來簡化應用程序內購物的步驟,以快速找到買傢正在尋找的東西。

04.語音轉文本每分鐘僅0.006美元,API數據不用於模型訓練

除引人關註的ChatGPT API外,OpenAI AI驅動的語音轉文本模型也可以通過API接入,該公司正在對其開發人員服務條款進行一些重要更改。

開發人員可以使用這一功能來轉錄或翻譯音頻,費用為每分鐘0.006美元。


從技術上講,Whisper模型是開源的,因此開發人員無需支付任何費用也可以在自己的硬件上運行它。

但是,如果在一些特殊情況下,例如開發人員對接入效率的要求較高以及需要在手機等低功率設備上轉錄。就可以通過OpenAI提供的更強大API。

除開放API外,OpenAI還基於開發人員反饋宣佈一些政策變更:通過API提交的數據不再用於服務改進(包括模型訓練),除非相應的公司選擇或者統同意加入;為API用戶實施默認的30天數據保留政策,並根據用戶需求提供更嚴格的保留選項;通過改進自動監控解鎖來刪除OpenAI發佈前審查;改進開發人員文檔;簡化其服務條款和使用政策,包括有關數據所有權的條款:用戶擁有模型的輸入和輸出。

05.結語:OpenAI為開發者打開AI應用大門

此前,一些開發人員已經找到在自己的應用程序中接入聊天機器人的解決辦法,那就是使用OpenAI的常規GPT API,但從應用和開發難度來看,都沒有達到最佳效果。

對於大多人開發人員來說,開發如同ChatGPT這樣的自己的聊天機器人模型是完全遙不可及的,但此次官方將ChatGPT API正式打開,且其花費的價格並不高,為開發人員構建聊天機器人打開大門。

OpenAI的官方博客中也談道,他們認為人工智能可以為每個人提供難以置信的機會,而實現這一目標的最佳方式就是讓每個人都可以利用它進行開發。


相關推薦

2024-03-06

ity。近期,黃仁勛接受媒體采訪時被問到:“你自己使用ChatGPT或者Bard的頻率高嗎?還是會用其它產品?”黃仁勛稱,“我一般用Perplexity,且幾乎每天都在用”。比如,他最近想解計算機輔助藥物研發的時候,就會用Perplexity進

2024-03-18

“模型竊取”的技術。通過模型竊取技術,Google成功破解ChatGPT基礎模型Ada和Babbage的投影矩陣,甚至連內部隱藏維度的關鍵信息也是直接破獲,分別是1024和2048。這一發現猶如一記重磅炸彈,在AI界引發強烈的震動。誰也沒想到,

2023-11-15

多創業者的夢想。大模型行業有沒有to C的爆款應用?有,ChatGPT。去年11月底,美國AI創業公司OpenAI推出ChatGPT,兩個月獲得1億月活用戶,讓整個科技圈大為震撼。4個月後,月活用戶突破10億,史上增長最快網站誕生。向這些用戶收

2023-11-07

姆·奧特曼在接近45分鐘的開幕演講中,向全球開發者和ChatGPT用戶展示AI龍頭即將推出的一系列產品更新。(來源:OpenAI DevDay)在發佈會的開始,奧特曼簡短回顧公司過去一年的發展歷程,特別提到“公司在今年3月發佈的GPT-4,

2023-11-07

92%的財富500強公司正在使用我們的產品進行構建,而現在ChatGPT每周活躍用戶大約有1億。”北京時間11月7日凌晨,在OpenAI的首次開發者大會上,SamAltman公佈過去一年中OpenAI的驕人成績。“今天,有大約200萬開發者在使用我們的API

2022-08-22

在打車便宜一半。”能做到嗎?首先,有一個問題,百度官方公佈這款車型的制造價格是 25 萬人民幣,我們先大致估算一下,在成本端百度有沒有誇大其詞?根據其官方發佈的文件,Apollo RT6 一共有 38 個傳感器,包括 12 個攝像

2023-02-15

ChatGPT有多狂熱?“在科技園裡吃飯,能聽到隔壁有人在討論(ChatGPT)。”即刻網友哥飛說。他所在的科技園位於廣東深圳,距離ChatGPT總部所在地美國舊金山超過一萬公裡,但不妨礙兩邊的人們談論著同一個話題。ChatGPT有多接

2023-04-13

toGPT是prompt工程的下一個前沿。”不僅如此,還有人聲稱 ChatGPT 已經過時,AutoGPT 才是這個領域的新成員。項目一經上線,短短幾天狂攬 27K + 星,這也側面驗證項目的火爆。GitHub 地址:https://github.com/torantulino/auto-gpt問題來,AutoGP

2023-03-02

時間周三(3月1日),OpenAI宣佈正式推出面向商業用戶的ChatGPT和Whisper語音轉文字API,並給出一系列商業夥伴已經上線的案例。簡單來說,繼去年11月向公眾推出ChatGPT聊天機器人後,OpenAI現在開始向有意在自傢APP或產品中提供相

2023-11-07

Altman 就宣佈 GPT-4 的一次大升級,推出 GPT-4 Turbo,同步在 ChatGPT 和 API 版本推出。Sam Altman 表示團隊一直在征求開發者的建議,對開發者關註的問題做六大升級,分別是更長的上下文長度、更強的控制、模型的知識升級、多模態、

2023-11-10

ChatGPT全線宕機“大崩潰”。北京時間昨夜今晨,AI聊天機器人產品ChatGPT和其API接口出現“嚴重停機”(MajorOutage)事件,整個故障時間陸陸續續長達超過12小時。據網絡狀況監測平臺Downdector顯示,北京時間今天上午9時40分左右,

2023-02-19

點:車載語音智能化的短板在“語義理解”,AI圈大火的ChatGPT對車載語音智能化加成明顯。ChatGPT上車,主要還是成本的問題,這背後包括使用成本、雲服務成本、針對性的訓練成本。雲知聲董事長CTO_梁傢恩對TechWeb表示,ChatGPT

2023-03-15

做出同款網頁。當國內還在熱議人工智能對話大模型產品ChatGPT時,背後核心預訓練模型技術GPT卻突然重磅升級。北京時間3月15日凌晨,創造出ChatGPT的美國 AI 公司OpenAI 正式對外發佈GPT-4。據悉,GPT-4是新一代多模態大模型,支持

2023-03-10

料指的是大語言模型(LLM)的處理能力。這些模型支撐著ChatGPT和微軟新必應搜索等服務。運行這些模型原本需要高昂的算力成本,因此可能會嚴重拖累模型的廣泛應用。搜索引擎You.com首席執行官、知名計算機科學傢理查德·索