左腳踩右腳上天!OpenAI全新模型讓GPT-4訓練GPT-4


快科技6月28日消息,OpenAI公佈一個基於GPT-4訓練的模型CriticGPT,主要用於捕捉ChatGPT代碼輸出中的錯誤。

簡單來說,通過這一模型,人類訓練者可以利用GPT-4查找並改進GPT-4自身的不足,OpenAI的實驗顯示,在CriticGPT的輔助下,訓練師發現錯誤的能力提升60%。

CriticGPT的工作機制包括對ChatGPT提供的代碼進行評審,並提出改進建議,盡管CriticGPT的建議並非總是完美無缺,但它的引入顯著提升訓練師在發現模型問題上的能力。

OpenAI表示,因為沒有更好的工具,所以人們目前難以評估高級AI的表現,而CriticGPT意味著,OpenAI向能夠評估高級AI系統輸出的目標邁進一步。

OpenAI也坦誠地指出CriticGPT的局限性,包括對長任務理解的不足、幻覺錯誤的產生、分散錯誤的識別難題,以及在面對極端復雜任務時的評估局限。

CriticGPT的發佈也引發熱烈討論,有網友用左腳踩右腳上天”來形容這一自我改進的過程。


相關推薦

2023-11-10

OpenAI會利用客戶自有的大量內部文檔數據,定制訓練出一個功能更強、更適合公司業務需要的GPT-4版本。OpenAI開發者大會吸引所有人的註意力,但幾乎沒人註意到,他們本周低調推出的一個新服務可能會顛覆B端AI市場。根據OpenAI

2023-03-15

很多學者都提到多模態,我們並沒有等太久。今天凌晨,OpenAI發佈多模態預訓練大模型GPT-4。GPT-4 實現以下幾個方面的飛躍式提升:強大的識圖能力;文字輸入限制提升至 2.5 萬字;回答準確性顯著提高;能夠生成歌詞、創意文

2023-03-16

人工智能研究機構OpenAI3月14日發佈備受期待的文本生成AI模型GPT-4。GPT-4在關鍵方面對其前代GPT-3進行改進,例如提供更符合事實的陳述,並允許開發人員更輕松地規定其風格和行為。它是多模態的模型,可以理解圖像內容。但是

2023-04-17

4月17日消息,人工智能初創企業OpenAI在發佈大型語言模型GPT-4之前,雇傭各行各業的專傢組成“藍軍”團隊,對模型可能會出現哪些問題進行“對抗性測試”。專傢們提出各種探索性或危險問題,測試人工智能如何進行回應;Open

2023-11-07

快科技11月7日消息,當地時間周一,OpenAI首屆開發者大會如期召開,在大會上OpenAI正式推出GPT-4 Turbo。據OpenAI介紹,相比於GPT-4,GPT-4 Turbo主要有6方面的提升:第一,上下文對話長度,GPT4最大隻能支持8k的上下文長度(約等於6000

2023-11-07

能是一夜未眠。北京時間11月7日凌晨,美國人工智能公司OpenAI的開發者大會正式開啟,創始人SamAltman在臺上和同事,隻用45分鐘時間,就“轟”出團隊最新的成果GPT-4Turbo,後者不僅更快、有更長的上下文、而且更好的控制。同時

2023-04-18

4月18日消息,OpenAI的聊天機器人ChatGPT可謂是功能強大,引起人們對人工智能的極大興趣和投資。但該公司的CEO薩姆·奧爾特曼(SamAltman)認為,現有研究策略已經失效,未來的AI進步需要新的思路。近年來,OpenAI通過將現有的機器

2023-04-15

礎上進行更多的工作而已。”這封信的一個早期版本聲稱OpenAI現在正在訓練GPT-5。事實上我們沒有,而且在一段時間內也不會。我們正在GPT-4的基礎上做其他事情,我認為這些事情有各種各樣的安全問題需要解決,而這些問題被

2024-03-27

練集群項目的對話沒想到,GPT-5還沒發,微軟就已悄悄為OpenAI開始訓練GPT-6。同在今天,一張“OpenAI內部時間線”圖片在網上瘋轉。圖中清晰標註出:OpenAI早在2022年8月-10月之間開始GPT-5(代號Arrakis)的訓練,2023年4月GPT-4.5(代號

2023-03-17

蓋地的叫好聲中,有件事可能你是“萬萬沒想到”——在OpenAI公佈的技術論文裡,竟然藏著九大隱秘的線索!這些線索是由國外博主AIExplained發現並整理。他宛如一位細節狂魔,從長達98頁論文中,逐個揭秘這些“隱匿的角落”

2024-04-13

ChatGPT,OpenAI的人工智能聊天機器人剛剛獲得一次重大升級。OpenAI今天宣佈,ChatGPT的高級用戶(ChatGPTPlus、Team或Enterprise的付費用戶)現在可以使用GPT-4Turbo的升級和增強版本,GPT-4Turbo是支持ChatGPT對話體驗的模型之一。OpenAI 聲稱

2023-03-15

3月15日消息,當地時間周二,人工智能研究實驗室OpenAI發佈最新版的大型語言模型GPT-4。這一讓人期待已久的高級工具不僅可以自動生成文字,還可以描述分析圖像內容;不僅推高人工智能浪潮的技術水平,也讓技術開發的道德

2023-05-11

科學傢,都難以解釋大模型(LLM)運作的背後。而最近,OpenAI似乎做到——本周二,OpenAI發佈其最新研究:讓GPT-4去試著解釋GPT-2的行為。即:讓一個 AI “黑盒”去解釋另一個 AI “黑盒”。工作量太大,決定讓 GPT-4 去解釋 GPT-2Op

2023-04-17

工智能技術。作為羅切斯特大學的化學工程教授,懷特是OpenAI去年聘請的50名專傢學者之一。在6個月的時間裡,這支“紅軍”對這一新模型進行“定性探索和對抗性測試”,試圖攻擊它。懷特表示,他使用GPT-4的建議生成一種可