仔細觀察名單,簽署呼籲信的主要有三類人群:學者、之前套現的公司創始人以及在人工智能競備賽中落後的公司負責人。馬斯克似乎是與人工智能最相關的上市公司負責人。人工智能風口正盛,一封呼籲暫停大型AI研究的公開信在矽谷科技圈流傳開來,激起千層浪。
最具戲劇性的是,OpenAI CEO Sam Altman的名字也曾赫然出現在公開信上。
不過周三晚些時候被證實是虛假簽名,Altman在接受媒體采訪時,他並沒有計劃呼籲暫停人工智能的開發。
Altman並不同意這封信的觀點,他指出:
OpenAI不僅非常重視AI安全,而且比業內其他公司更重視。我們談論這些問題的聲音最大、強度最大、時間最長。
公開信引發爭議
近日,OpenAI發佈ChatGPT升級版GPT-4,GPT-4在與人類交互方面和一些最具挑戰性的標準化測試中表現出色,但同時這也引起人們的警覺。
3月22日,非盈利組織生命未來研究所發佈一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練,暫停時間至少為6個月。圖靈獎得主Yoshua Bengio、馬斯克、蘋果聯合創始人Steve Wozniak等上千名科技大佬和AI專傢均簽署公開信。
在眾多大佬的光環下,這封信引起軒然大波,部分認為這就是是“酸葡萄心理”,AI競賽中落後的玩傢在為自己爭取6個月的時間。
不過,也有人認為擔憂有一定的合理性,AI發展太快,監管和審查方面沒有跟上步伐。
仔細觀察名單,簽署呼籲信的主要有三類人群:學者、之前套現的公司創始人以及在人工智能競備賽中落後的公司負責人。比如,蘋果聯合創始人Steve Wozniak簽署信,Pinterest聯合創始人Evan Sharp也是如此。大約30%的簽署者為學者,馬斯克似乎是與人工智能最相關的上市公司負責人。
值得一提的是,盡管圖靈獎得主Yoshua Bengio名字在內,但深度學習學界三巨頭另外兩位,泰鬥級的Hinton沒有公開表態,LeCun 則清晰指出不同意這一觀點前提。
簽署者名單還缺少Jack Clark,他是人工智能安全和研究公司Anthropic的聯合創始人。Anthropic與Google雲建立正式合作夥伴關系,Google在Anthropic上投資近4億美元,加劇該公司與OpenAI的競爭。
馬斯克為什麼簽署公開信?
本來是AI的支持者,特斯拉曾舉辦兩個人工智能日,向投資者介紹該公司的AI 工作,並招募頂級AI科學傢為這傢電動汽車制造商工作。那馬斯克為什麼會簽署反對的公開信?
分析指出,馬斯克並不是AI的狂熱愛好者,他隻是想開發關於汽車的狹義人工智能。
“這是馬斯克為改善特斯拉處境而做出的精明舉動。”Wedbush分析師Dan Ives表示:
這封信的呼籲將限制微軟的發展速度,因為微軟幾乎在AI競賽中處於霸主地位,Google緊隨其後。
對於特斯拉來說是一把雙刃劍,馬斯克下一步的重點是推動自動駕駛技術研發。
分析指出,一方面馬斯克下一步的重點是推動自動駕駛技術,其在暫停期間可以加快該技術研發;另一方面暫停大型AI研發是否會波及到暫停特斯拉的研發,目前尚不清楚。任何影響自動駕駛汽車潛力的事件都可能影響特斯拉的股價。
特斯拉正在以15000美元的價格出售其“全自動駕駛”輔助軟件,目前這個系統尚不能完全自動化,仍需要駕駛員監督。
而特斯拉最大的投資者之一木頭姐Cathie Wood,相信自動駕駛軟件將解鎖數千億甚至數萬億的市值。木頭姐預計,到2026年,自動駕駛軟件將每年為特斯拉帶來2800億美元的利潤。值得一提的是,木頭姐並不在簽署者名單上。