暫停研發AI大模型6個月?馬斯克領銜的這封公開信爭議很大


仔細觀察名單,簽署呼籲信的主要有三類人群:學者、之前套現的公司創始人以及在人工智能競備賽中落後的公司負責人。馬斯克似乎是與人工智能最相關的上市公司負責人。人工智能風口正盛,一封呼籲暫停大型AI研究的公開信在矽谷科技圈流傳開來,激起千層浪。

最具戲劇性的是,OpenAI CEO Sam Altman的名字也曾赫然出現在公開信上。


不過周三晚些時候被證實是虛假簽名,Altman在接受媒體采訪時,他並沒有計劃呼籲暫停人工智能的開發。

Altman並不同意這封信的觀點,他指出:

OpenAI不僅非常重視AI安全,而且比業內其他公司更重視。我們談論這些問題的聲音最大、強度最大、時間最長。

公開信引發爭議

近日,OpenAI發佈ChatGPT升級版GPT-4,GPT-4在與人類交互方面和一些最具挑戰性的標準化測試中表現出色,但同時這也引起人們的警覺。

3月22日,非盈利組織生命未來研究所發佈一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練,暫停時間至少為6個月。圖靈獎得主Yoshua Bengio、馬斯克、蘋果聯合創始人Steve Wozniak等上千名科技大佬和AI專傢均簽署公開信。

在眾多大佬的光環下,這封信引起軒然大波,部分認為這就是是“酸葡萄心理”,AI競賽中落後的玩傢在為自己爭取6個月的時間。

不過,也有人認為擔憂有一定的合理性,AI發展太快,監管和審查方面沒有跟上步伐。

仔細觀察名單,簽署呼籲信的主要有三類人群:學者、之前套現的公司創始人以及在人工智能競備賽中落後的公司負責人。比如,蘋果聯合創始人Steve Wozniak簽署信,Pinterest聯合創始人Evan Sharp也是如此。大約30%的簽署者為學者,馬斯克似乎是與人工智能最相關的上市公司負責人。

值得一提的是,盡管圖靈獎得主Yoshua Bengio名字在內,但深度學習學界三巨頭另外兩位,泰鬥級的Hinton沒有公開表態,LeCun 則清晰指出不同意這一觀點前提。


簽署者名單還缺少Jack Clark,他是人工智能安全和研究公司Anthropic的聯合創始人。Anthropic與Google雲建立正式合作夥伴關系,Google在Anthropic上投資近4億美元,加劇該公司與OpenAI的競爭。

馬斯克為什麼簽署公開信?

本來是AI的支持者,特斯拉曾舉辦兩個人工智能日,向投資者介紹該公司的AI 工作,並招募頂級AI科學傢為這傢電動汽車制造商工作。那馬斯克為什麼會簽署反對的公開信?

分析指出,馬斯克並不是AI的狂熱愛好者,他隻是想開發關於汽車的狹義人工智能。

“這是馬斯克為改善特斯拉處境而做出的精明舉動。”Wedbush分析師Dan Ives表示:

這封信的呼籲將限制微軟的發展速度,因為微軟幾乎在AI競賽中處於霸主地位,Google緊隨其後。

對於特斯拉來說是一把雙刃劍,馬斯克下一步的重點是推動自動駕駛技術研發。

分析指出,一方面馬斯克下一步的重點是推動自動駕駛技術,其在暫停期間可以加快該技術研發;另一方面暫停大型AI研發是否會波及到暫停特斯拉的研發,目前尚不清楚。任何影響自動駕駛汽車潛力的事件都可能影響特斯拉的股價。

特斯拉正在以15000美元的價格出售其“全自動駕駛”輔助軟件,目前這個系統尚不能完全自動化,仍需要駕駛員監督。

而特斯拉最大的投資者之一木頭姐Cathie Wood,相信自動駕駛軟件將解鎖數千億甚至數萬億的市值。木頭姐預計,到2026年,自動駕駛軟件將每年為特斯拉帶來2800億美元的利潤。值得一提的是,木頭姐並不在簽署者名單上。


相關推薦

2023-04-03

開信引用,公開信獲得埃隆·馬斯克聯合簽名並要求緊急暫停研究人工智能,專傢們對此表示擔憂。截至當地時間上周五,這封日期為3月22日的公開信已獲得超過1800個簽名。信中呼籲,在開發比微軟支持的人工智能研究公司OpenAI

2023-03-29

能專傢以及科技高管呼籲所有人工智能(AI)實驗室立即暫停訓練比GPT-4更強大的AI系統。這封公開信由非營利性組織Future of Life Institute發佈,信的開頭寫道:“廣泛的研究表明,具有與人類競爭智能的AI系統可能會對社會和人類

2023-04-07

呼籲暫停GPT-5的公開信發出後,沉默許久的Bengio發長文,解釋自己簽字的原因,而LeCun繼續強調,現在的擔憂根本是杞人憂天,與AI末日論者辯論毫無意義。呼籲暫停比GPT-4更強AI訓練的公開信,把超強AI的種種爭議,更加激烈地推

2023-03-30

信在網上發佈。這封公開信呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練至少6個月。蘋果聯合創始人史蒂夫·沃茲尼亞克(Steve Wozniak)、圖靈獎得主約書亞·本吉奧(Yoshua Bengio)、AI領域教科書《人工智

2023-04-06

首先要解新科技本身是怎樣演進的。他認為,公開信呼籲暫停人工智能技術的研發,這不僅不現實,而且也不會在行業產生實際效果。這封公開信的起草者是非盈利機構“生命未來研究所”,目前已經獲得1000多名人工智能專傢

2023-04-04

GPT這樣強大的人工智能的確會對社會構成一定的傷害,但暫停6個月的開發似乎隻是一廂情願,幾乎沒有現實基礎。從OpenAI去年11月開始公測GPT-3以來,生成式人工智能開發的高速列車就從來沒有停止過。在發佈ChatGPT並啟動人工智

2023-03-30

itute)發佈一封公開信,號召當前的所有 AI 實驗室應立即暫停訓練比 GPT-4 更強大的 AI 模型,為期至少 6 個月。公開信中表示,頂級 AI 實驗室證明,具有人類水平智能的 AI 系統可能對社會和人類帶來極大的風險。而這封公開信

2023-03-30

SteveWozniak)以及其他1000多人日前簽署一封公開信,呼籲暫停訓練比GPT-4更強大的AI系統。美國主流網絡媒體BI認為,為全社會的利益,AI開發需要放慢腳步。在公開信中,沃茲尼亞克、馬斯克等人要求在AI技術變得日益強大之際,

2023-04-17

ak等多位科技界知名人物簽署一封公開信,呼籲在6個月內暫停開發比OpenAI公司新推出的GPT-4更為強大的系統。不過對此,微軟聯合創始人比爾蓋茨卻並不認同,他表示,暫停研發AI的呼籲並不會解決我們面臨的挑戰,應該將重點

2023-03-31

包括埃隆.馬斯克在內的千名專傢聯合簽署公開信,呼籲暫停訓練GPT-4後續AI模型至少6個月。消息一出,引爆全球網絡和媒體,很快引來吳恩達等“AI大牛”的反對。如何看待雙方的爭論?我們一層層分析問題。先說競爭失控問

2023-03-29

22日,生命未來研究所(FutureofLife)向全社會發佈一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練,暫停時間至少為6個月。該機構以“引導變革性技術造福生活,

2023-03-30

馬斯克等上千人聯名呼籲 “所有人工智能實驗室應立即暫停訓練比 GPT-4 更強大的大模型,這一時間至少為 6 個月”。在 Marcus 看來,AI風險 ≠ AGI風險,盡管很多人將人工智能的風險等同於超級智能或 AGI 的風險,但並非隻有超

2023-04-15

本就沒有GPT-5這回事??第二個大瓜是,Altman對於AI大佬暫停超強AI訓練的聯名信,也首次做回應。讓我們看看,目前網上流出的3分鐘視頻裡,Altman究竟說什麼。對聯名信首次表態此前,圖靈獎得主Yoshua Bengio、蘋果創始人、馬斯

2023-03-31

克(Elon Musk)等上千名科技人士於昨日發表公開信,呼籲暫停訓練比GPT-4更強大的AI系統。這封公開信稱,所有人工智能實驗室應立即暫停訓練比GPT-4更強大的人工智能系統,至少6個月時間。否則,政府就應該介入采取強制措施