SamAltman辟謠!根本就沒有GPT-5!之前一直有大瓜稱,GPT-5正在秘密訓練中,預計年底上線。群眾們奔走相告,可以說萬分期待。結果,就在剛剛,SamAltman親口辟謠這個大瓜。他言之鑿鑿地說:“我們現在並沒有訓練GPT-5,目前隻是在GPT-4的基礎上進行更多的工作而已。”
這封信的一個早期版本聲稱OpenAI現在正在訓練GPT-5。事實上我們沒有,而且在一段時間內也不會。我們正在GPT-4的基礎上做其他事情,我認為這些事情有各種各樣的安全問題需要解決,而這些問題被完全忽略。
第二個大瓜是,Altman對於AI大佬暫停超強AI訓練的聯名信,也首次做回應。
讓我們看看,目前網上流出的3分鐘視頻裡,Altman究竟說什麼。
此前,圖靈獎得主Yoshua Bengio、蘋果創始人、馬斯克等全球大佬聯合起來簽署公開信,對GPT-5發出圍剿。現在,簽名人數已經突破2.5萬。
隨後,另一圖靈獎得主Yann LeCun、吳恩達等大佬也紛紛表明自己沒有署名的原因。
雖然公開措辭是“針對所有AI機構”,但大傢都明白,這封信就差沒點OpenAI的名。
然而,萬千目光集於一身的Sam Altman卻始終對此保持沉默,從未公開表露自己對於這封信的態度。
現在,Sam Altman終於在Lex Fridman的第2輪訪談中公開表態:我贊同這個倡議的一部分,但它也遺漏很關鍵的一點。
他的原話是:“這個倡議的其中一部分,我是十分贊同的。就像我們訓練完GPT-4以後,也是等六個月才發佈。”
Altman強調,OpenAI花很長時間研究GPT-4的安全性,接受外部審核,也進行內部的紅隊演習。
總之,OpenAI已經盡最大努力去解,這個模型究竟發生什麼,而且讓整個過程謹慎再謹慎。
他自豪地表示:自從我們發佈GPT-4以後,一切都很不錯。
的確,GPT-4的安全能力確實無可指摘,用Altman的話說,它也許不是功能最強大的模型,但肯定是目前未知最安全、最對齊的模型。
因此,對於公開信的這一部分,Altman是百分百贊同的,他還表示,隨著模型的能力越來越強,與之對應的安全措施確實需要增加。
否認:根本就沒有GPT-5
不過,Altman隨即石破天驚地指出這封信的“華點”。
他指出,這封公開信遺漏最含技術性的一個細微之處——我們該在哪裡停止。
接著,他說出讓在場所有人都驚掉下巴的一句話——“我們根本就沒在訓練GPT-5”。
這封信一開始的版本,說OpenAI正在訓練GPT-5。但實際上我們並沒有,而且在相當一段時間內,都不會這樣做。所以這麼來看,這封信就有些愚蠢。
不過,他承認,在GPT-4發佈後,OpenAI確實做很多別的事情,並且也在忙著處理各種亟待解決的安全性問題。
而在他眼裡,簽署一封公開信,並不是提出這個問題最好的方式。
我們的唯一區別,就是更坦誠
Altman回答說,我們當然會一直保持坦誠。
因為OpenAI堅信,ChatGPT技術會影響所有人,所以他們大膽地選擇把一個還不完美的AI系統公之於眾,讓所有人都囊括在這個討論體系中。
盡管這讓OpenAI背負上種種“聲譽風險”,種種罵名,會需要在公眾面前改口,讓自己難堪。
但是至少,所有人就都能體驗和思考這項新技術,解AI好的一面,和不好的一面。
Altman認為,這樣做值得。
很多公司不願意多說一句話,除非他們確定這句話一定是對的。
而OpenAI認為,保持坦誠比別的選擇都要好。
OpenAI的一大目標就是,讓全世界都參與進來,一起思考新技術,建立新機構,弄清人類想要的未來究竟是什麼樣子。
OpenAI另一創始人:未來屬於我們所有人
有關AI發展速度的討論中,有一個底層的核心理念,那就是我們需要非常重視安全性問題,謹慎前行。這對於我們的目標來說十分重要。
我們花6個月的時間測試GPT-4,力圖讓這個AI更加安全。這一成就建立在我們多年來步調一致的研究之上。
我們計劃繼續加強我們就安全問題采取的措施,更積極地面對安全性問題——要比很多用戶想的更積極。
大體上我們的目標是,每一個我們推出的模型,都是最一致的。而我們也做到,從GPT-3,GPT-3.5,到現在的GPT-4.
我們相信(我們也是這麼做的),功能強大的AI訓練應該向政府及進行匯報,同時要越來越認真地這些AI的能力和影響進行預測。進行AI訓練要求我們進行最高規格的測試,比如說危險能力測試。
我們認為大規模運算的使用的管控,安全標準,和部署AI後的監管以及經驗分享是非常好的註意。
但是,細節問題也很重要,並且應該隨著技術的進步時刻調整。
同時,解決現實問題,比如防止濫用和自我傷害,減輕訓練中的偏見,以及應對長期存在的問題等等,同樣至關重要。
從AI的長期發展歷史來看,專傢們自信滿滿的預測往往並不準確。為避免出現未註意到的預判錯誤,我們就應該讓新技術以其當下的面貌時刻和現實世界碰撞,並在不斷碰撞的過程中發展、測試、投入使用,當然能力提升也是一定的。
同時還有一些人們不常聊到的創造性想法,可以以意想不到的方式提升AI的安全性狀況。
比如說,開發一系列性能越來越強的AI十分簡單,這就提供一種新的解決安全問題的機會,和過去不常出現重大模型升級時的方法完全不同。
未來的AI變革性技術變化讓我們更加樂觀的同時,也帶來諸多擔憂。
各種不同的情感都是合理的,OpenAI的內部人員也都有不同的看法。
我們可以一同構建未來——這是一個獨一無二的機會,同時對我們來說也是一種義務。
網友:改名GPT-4.5,搞定
那對於這個驚爆的大瓜,網友們信不信呢?
有人認為,這一串發言,完全就是欲蓋彌彰,把GPT-5這個名字改成GPT-4.5不就完事麼。
這一網友也很損地翻譯一下Altman的話,“這個發言總結起來就是,我們沒搞GPT-5,搞的是GPT-4.99999。”
這位網友腦洞更大,“我們沒有在訓練GPT-5,這是虛假消息。我們訓練的AI叫GPT-10,然後我們會讓GPT-10去開發一個既安全又合理的GPT-5,再弄9個版本之後,我們就可以公之於眾啦。”
而另一邊,Sam Altman曾經的好兄弟、OpenAI曾經的聯合創始人之一馬斯克,最近也被爆出花大價錢買10000個GPU(每顆約1萬美元),還從Google那裡高價挖人,要在Twitter內部啟動一項AI項目。
因為經營理念不和、憤而退出OpenAI創始人席位的馬院士,究竟在憋什麼大招呢?讓我們拭目以待。
參考資料:
https://www.youtube.com/watch?v=4ykiaR2hMqA