AI研發陷入兩難:大佬聯名叫停,自由市場不答應


據報道,超過1000位商界領袖聯名呼籲放慢ChatGPT這種更新、更強大的大語言模型的開發速度。但這封公開信卻引發外界對簽名者的誠意的質疑,人們甚至懷疑,他們中的許多人根本不認同這封公開信中提出的原則。

許多業內人士確實認為,像ChatGPT這樣強大的人工智能的確會對社會構成一定的傷害,但暫停6個月的開發似乎隻是一廂情願,幾乎沒有現實基礎。

從OpenAI去年11月開始公測GPT-3以來,生成式人工智能開發的高速列車就從來沒有停止過。在發佈ChatGPT並啟動人工智能軍備競賽的那一刻,OpenAI就打開“潘多拉的魔盒”。而在市場力量的推動下,即使OpenAI想要停止人工智能的開發,也根本無法做到。

隨著個人和企業習慣於向ChatGPT、谷歌Bard和微軟新必應尋求各種問題的答案,需求已經足夠強大,迫使科技巨頭必須在這個充滿前景的領域占據主導地位。

“生成式人工智能創造一些我們暫時甚至永遠無法理解的東西,所以確實應該花點時間來解這些系統。”創業公司Toggle AI總裁朱賽普·賽特(Giuseppe Sette)說,“但我們不可能這樣做。這個領域現在太熱,從科技巨頭到中國市場,處處充滿競爭。”

開弓沒有回頭箭

至少從去年11月以來,生成式人工智能就成為科技行業熱議的話題。OpenAI抓住機會擴大與微軟的合作,在1月份將ChatGPT引入必應搜索引擎。此後幾個月,它又推出更新、更強大的ChatGPT版本——GPT-4。很快,這傢公司又開放平臺,引入Slack、Instacart和Klarna等公司的插件。

為應對競爭,谷歌很快也推出Bard大語言模型。隨後,中國的阿裡巴巴和百度也宣佈將開發與ChatGPT競爭的產品。

除此之外,市面上還湧現出許多圖片生成程序,其中一些同樣由OpenAI開發,還有一些是類似於Stable Diffusion和DALL-E這樣的獨立程序。它們在藝術和時尚行業掀起AI風暴。

商界領袖們在公開信中呼籲暫停開發新的人工智能模型,但卻並未闡述應當如何對待GPT-4這種業已存在的模型。

其他開發者認為這不公平:暫停6個月開發隻會影響剛剛起步的公司,而像OpenAI這樣的企業則可以借此機會繼續擴大領先優勢。其他創業公司則認為,雖然那些呼籲放慢生成式人工智能開發速度的商界領袖的想法是對的,但他們卻不願因此放慢步伐。

當一項技術流行開來,天花亂墜的宣傳此起彼伏時,這種情況就不可避免。生成式人工智能已經出現,人們也已經體驗過大語言模型的威力,與其他曇花一現的技術創新不同,這種技術確實存在巨大的市場需求。

心有餘而力不足

執行方面同樣面臨許多障礙。

“所有人都在自由市場上爭先恐後奪取份額,誰會願意暫停開發?”風險投資公司VC Sapphire總裁兼聯合創始人賈伊·達斯(Jai Das)說,“魔盒已經打開,停不下來。”

達斯表示,根本無法阻止企業秘密研發大語言模型,或者阻止科技巨頭研發人工智能技術。沒有一個機構會在這6個月的時間內逐一巡查每一傢公司,調查他們是否在開發與算法有關的代碼。

這封公開信認為,整個社會需要一些時間來更好地理解人工智能的影響。倘若這種想法獲得廣泛支持,而放慢開發速度又無法實現,我們又當如何是好?

這並非不可能的任務,但的確需要依賴尖端技術中比較罕見的方式:通過廣泛的行業協議來確定相關標準。

“根本無法暫停任何事情,這不可能。”達斯說,“為什麼不讓整個行業開啟對話,搞清楚怎樣才能避免公開信中提到的問題。”

科技公司是否會坐下來制定相關的標準?這還有待進一步觀察,但有一件事情是確定的:我們或許希望人工智能可以放慢速度,等等我們,但它已經跑在我們前面。

我們究竟能否阻止它?現在還沒有答案。


相關推薦

2023-03-30

關註和資源對其進行規劃和管理”,但現在人工智能已經陷入失控的競賽,開發者也無法理解、預測及可靠地控制。這封公開信還提到,當代人工智能系統現在在一般任務上變得與人類具有競爭力,“隻有當我們確信強大的人工

2022-09-07

“這麼快就被割韭菜!”一位剛剛提車兩個月的理想ONE車主在車主群內吐槽:“我的訴求是退兩萬差價或者置換L8。”這位車主的訴求在群內引起共鳴,很快,超過百位車主參與群內接龍。“退差價”、“置換新車”、“退車”

2023-03-30

是一把雙刃劍,馬斯克下一步的重點是推動自動駕駛技術研發。分析指出,一方面馬斯克下一步的重點是推動自動駕駛技術,其在暫停期間可以加快該技術研發;另一方面暫停大型AI研發是否會波及到暫停特斯拉的研發,目前尚

2023-03-29

GPT-4強到發指,不止群眾們恐慌,今天,全世界的AI大佬們也出手!千人發表聯名信,呼籲所有人暫停訓練比GPT-4更強的AI。就在剛剛,網上曝出一封千位大佬的聯名信,要封殺所有比GPT-4強的AI!在這封聯名信上,超過1000位大佬

2022-08-26

導 Autopilot以及整個特斯拉自動/輔助駕駛技術項目的研發,並帶領公司深入到機器人等更多前沿領域。上個月,Karpathy宣佈從特斯拉正式離職。當人們還在關註他下一站要去哪,他卻毫無意外地“重操舊業”,當起“老師”。

2023-11-02

一份兒關於AI監管的行政命令。說是以後,各傢公司們在研發先進AI系統之前,得提前報備,通過後才能繼續研發。而且命令還事無巨細……像必須給AI生成的內容打水印、得保護相關工人的權益,別讓AI整得一堆人失業、要想法

2023-12-06

,2015 年時他已經是圈內知名人物。網友自然對這位年輕大佬充滿好奇:長什麼樣子、喜歡吃啥、用的啥設備,甚至是有多少存款、GitHub 密碼多少。對於這些問題,即便有些無聊,他通常來者不拒,並且細心整理成 PDF,方便

2023-04-07

博客上寫一篇長文,解釋自己為什麼簽名贊成暫停超強AI研發。而另一巨頭LeCun一再表示,這種暫停根本就沒有必要,而且與AI末日論者辯論真的毫無意義。在與眾網友舌戰多日後,他將於明天和吳恩達親自出鏡,向大眾公開解釋

2023-01-04

高通和聯發科都"在是否跟隨蘋果2023年的工藝升級上陷入兩難境地"。具體而言,高通公司為許多高端Android旗艦機提供芯片,包括三星手機。報告指出,如果三星想"在旗艦手機市場迎接蘋果的競爭",高通可能別無

2022-10-02

AMD、高通、博通、索尼這些同樣都是大客戶的,會不會也不答應臺積電的漲價計劃?

2023-07-15

日在新聞發佈會上表示:如果現在不昂首挺胸,我們就會陷入困境,都將面臨被機器取代的危險。”SAG-AFTRA在談判時舉例稱,今年《奪寶奇兵》系列影片第五部大火,片中利用人工智能技術讓觀眾看到好萊塢老牌男星哈裡森福特

2023-03-31

。先說競爭失控問題。據公開信所稱,提出“暫停ChatGPT研發”的提議,直接刺激是對“最近幾個月人工智能實驗室陷入一場失控競賽”的擔憂。可實際上,短短幾日爭論,是往OpenAI公司和LLMs(Large Language Models,大語言模型)火

2023-11-22

府代表和歐盟委員會官員會議,歐盟層面的法律談判已經陷入停滯。談判代表們需要在12月6日前完成談判,但目前看起來希望渺茫。考慮到歐洲議會將在2024年6月舉行連任選舉,歐盟層面的AI監管框架似乎很難在這一時間點之前

2024-09-18

的公開性,更容易在社區得到測試和改進;但閉源模型在研發時,模型的數據語料質量、豐富程度以及算力規模,團隊的算法能力和背後強大的資金支持等因素,保證閉源模型的高質量輸出。”上述從業者也提到,數據安全對於