馬斯克大戰OpenAI:“開源”之爭,敲響人工智能安全警鐘?


“美好的願景是人類和人工智能形成一種共生關系。”山姆·奧特曼說完之後看向埃隆·馬斯克。後者接過話頭,“我同意山姆所說的,我們已經像賽博格一樣工作。不過需要謹慎對待人工智能的發展,確保它最終對人類有利。”

上述對話發生在9年前,兩人在美國一檔談話節目中相鄰而坐,探討有關未來創新、地外生命、創業精神等廣泛的前沿話題,冷靜地闡述那些雄心勃勃的藍圖。彼時,馬斯克對人工智能(AI)興趣盎然,但因憂慮安全問題而難覓志同道合者。在他眼中,身旁的年輕人不僅是科技孵化器Y Combinator的總裁,還是一名生存主義者,對AI有共同的緊張感。也正是在2015年,他們攜手創辦一個非營利性人工智能研究實驗室“OpenAI”,對抗以谷歌為代表的科技巨頭。

然而不到三年,馬斯克以“利益沖突”為由退出OpenAI董事會。事到如今,馬斯克與奧特曼徹底決裂,舊日願景卻成矛盾焦點。

今年2月29日,馬斯克突然在舊金山法院對OpenAI及公司首席執行官奧特曼和總裁佈羅克曼提起訴訟,他斥責奧特曼違背“初心”,要求OpenAI恢復開源並給予賠償。對此,包括奧特曼在內的OpenAI 五位聯合創始人撰文回應,逐一駁斥各項指控,並曝光馬斯克與他們的大量往來郵件,試圖證實馬斯克唯利是圖。

這一場紛爭不僅是馬斯克與奧特曼之間的極限拉扯,也是AI狂潮下科技巨頭們合縱連橫的一個側面,涉及OpenAI背後的“金主”微軟公司,還有馬斯克旗下的特斯拉和人工智能初創公司xAI等。圍觀商鬥之外,針對AI未來發展的分歧與辯論或許更值得探究。

非營利與營利

馬斯克向舊金山法院提交的訴狀洋洋灑灑寫35頁,最大“罪狀”指向OpenAI為逐利而放棄最初使命——“開發造福人類的人工智能技術”。馬斯克聲稱,OpenAI與微軟的合作夥伴關系已將這傢公司轉變為微軟“事實上的閉源子公司”,專註於利潤最大化。

隨後,OpenAI發文反擊:“很遺憾,我們非常敬佩的一個人走到這一步——他激勵我們設定更高的目標,然後卻告訴我們會走向失敗,而他自己創立一個競品。當我們在沒有他的情況下開始朝著OpenAI的使命取得有意義的進展時,他又起訴我們。”短短幾句話濃縮馬斯克與OpenAI這些年的恩怨情仇。

OpenAI在3月5日釋放出馬斯克與其聯合創始人的郵件內容,曝光當初所有創始人同意創建一個營利性實體支撐OpenAI運轉,不過馬斯克希望獲得該實體的大部分股權、初始董事會控制權並擔任首席執行官,而其他創始人不同意。隨後馬斯克建議將OpenAI並入特斯拉,OpenAI團隊也拒絕這個想法,導致雙方決裂。

著名傳記作傢艾薩克森所寫的《埃隆·馬斯克傳》,一部分內容印證上述說法。書中提到馬斯克希望在其旗下各傢公司發展人工智能能力,試圖說服奧特曼將OpenAI並入特斯拉,理由是當時OpenAI發展3年依然落後於谷歌。

如今馬斯克和OpenAI互相斥責利欲熏心,商人逐利實則無可厚非,不過馬斯克控訴OpenAI違背創始協議,即維持這傢公司的性質是“非營利”。而奧特曼反指馬斯克未兌現承諾,根據郵件內容,馬斯克稱OpenAI融資規模應該從10億美元起步,並承諾“對於其他人未提供而出現的缺口,我將負責補足。”

OpenAI在3月5日的發文中表示,作為非營利公司時,收到馬斯克的款項不足4500萬美元,從其他捐助者那裡籌集超過9000萬美元。顯然,這筆數目遠不足以支撐該公司構建通用人工智能(能夠模仿和執行任何人類智能活動,甚至在各種認知任務中表現得比人類更好的人工智能。)的目標。微軟成救局者。

就在馬斯克2018年退出OpenAI董事會後,在保持非營利的同時,奧特曼又成立一個籌集股權基金的營利性部門(但這個營利部門的營收有一個上限。在達到這個上限之後,營利實體所得的一切都要歸還給非營利的研究實驗室。)。一年後,微軟向該公司投資10億美元,在接下來幾年又陸續投資120億美元,為OpenAI構建生成式人工智能技術的所需買單。作為回報,OpenAI向微軟Azure 雲計算產品的客戶提供多項AI服務。微軟從2023年1月開始對OpenAI持股49%,目前為止仍是最大股東之一,OpenAI的非營利性母公司則持有 2% 的股份。隨著同年聊天機器人ChatGPT問世,微軟股價大漲,並可以順理成章地訪問GPT大語言模型和相關軟件。

在馬斯克看來,OpenAI走上背靠微軟營利的道路,與創立時的初心背道而馳。這要追溯到OpenAI成立的2年前,2013年谷歌公司在AI領域率先佈局,馬斯克在他42歲的生日派對上,和相識10多年的谷歌創始人拉裡·佩奇激烈辯論人工智能的風險,前者主張建立“防火墻”防止AI取代人類,擔憂人類意識消亡。後者不以為然,認為機器的智力和意識超越人類意味著進化的下一階段。

馬斯克聲嘶力竭卻沒能制止拉裡·佩奇的野心。谷歌在2014年1月宣佈收購致力於實現通用人工智能(AGI)的公司DeepMind,並為之創建安全委員會,馬斯克作為委員之一對谷歌非常不滿,認為委員會徒有其名,根本不關心AI的安全問題。

隨著谷歌在AI領域不斷發力,馬斯克四處奔走警告AI對人類生存的威脅,甚至在2015年約到與時任總統奧巴馬的一對一談話。多年後,他回顧那次會談內容說,沒有借機推廣特斯拉或Space X,而是敦促美國政府推進AI監管,但是沒能引起足夠的重視。

屢遭挫敗後,馬斯克決定尋找搭檔一起入局AI領域,他找到比他小14歲的奧特曼,兩人一拍即合,認為提升AI系統安全性的途徑之一是,擁有大量彼此競爭的系統相互制衡。因此他們決定成立一傢非營利AI公司,發展一種不受任何個人和公司控制的AI。

而且,馬斯克給這傢公司取名OpenAI,是希望實現真正的開放,讓其他人根據源代碼建立各自的AI系統,以達到制衡目的。而如今,是否開源也成為爭議的焦點。

OpenAI還是ClosedAI

“將OpenAI改名為ClosedAI,我就取消訴訟。”當地時間3月6日,馬斯克在社交平臺X上發文,並附上一張修圖後的照片,畫面中奧特曼手握的工牌上顯示“ClosedAI”圖標。

馬斯克以此諷刺OpenAI不夠開放,但是開放的精準定義是什麼,雙方的看法並不一致。

OpenAI首席科學傢伊爾亞·蘇茨克維2016年在電子郵件中寫道:“OpenAI中的開放意味著每個人都應該從人工智能構建後的成果中受益,但也可以不分享科學成果。”馬斯克在回應中回答說:“是的。”OpenAI認為這封郵件足以證實,開放的意義是廣義的,而非絕對的“開源”。

2023年3月,OpenAI發佈AI語言模型GPT-4,並分享GPT-4的大量測試結果以及一些有趣的演示,但基本上沒有提供有關用於訓練系統的數據、用於創建該系統的特定硬件或方法的信息。人工智能界的許多人批評這一做法,指出它破壞該公司作為研究組織的創始精神。更重要的是,面對GPT-4等人工智能系統構成的威脅,開發有針對性的風險防護措施變得更困難。

伊爾亞·蘇茨克維在接受美媒采訪時,闡釋OpenAI不分享更多有關GPT-4信息的原因——對競爭和安全的擔心是“不言而喻的”。就安全考慮,他指出,這些模型非常強大,而且會變得愈發強大。某些時候,一些人如果利用這些模型可以非常容易地制造巨大的傷害。隨著模型能力的提高,不想公開它們也是有道理的“。

當時,馬斯克就開源問題“約談”奧特曼,稱OpenAI是作為開源的非營利性公司創立,目的是與谷歌抗衡,而現在卻成為“封閉源代碼”的公司,“如今落入無情的壟斷企業之手”。對此,奧特曼表示自己沒有從這傢初創公司大舉獲利,他理解馬斯克的批評是真實的擔憂,但是認為他還沒有完全認識到人工智能安全問題的復雜性。

堅定的開源主義者不隻馬斯克,OpenAI開發者關系負責人洛根(Logan Kilpatrick)也是其中之一。他3月1日在社交平臺上宣佈辭職,並發出一番感慨“一個開源的AI對於開發者、商業以及全人類來說都會是一種純粹的勝利。”一些開發者猜測圍繞“開源”的分歧是其離開的原因。此前的 OpenAI“宮鬥”之爭,實質上也是關於 AI 發展的“理念之爭”——到底是加速 AI 的商業化進程,還是確保 AI 的安全性再推向全世界。

不過,此時對於馬斯克而言,針對OpenAI的官司即使打不贏,他仍然有其他“武器”捍衛其堅持的AI安全。

截屏圖

找出終極問題的答案

通過訴訟和社交平臺上的大膽發言,馬斯克對OpenAI、谷歌、微軟等科技巨頭一一出拳,像一名角鬥士沖入人工智能的戰局,寄希望於他在去年創立的人工智能公司xAI大殺四方。

在馬斯克的設想中,xAI不僅要打造出能編寫計算機程序的AI機器人,以及一款能與OpenAI的GPT系列聊天機器人匹敵的競品,更重要的是實現“能夠最大限度追求真理的人工智能,他關心對宇宙的理解,帶來的結果是它想要保護人類。”

毫無疑問,xAI的起步較晚,在這個日新月異的領域處於劣勢,目前為止擁有的唯一值得關註的產品是聊天機器人Grok。xAI團隊強調,Grok比其他聊天機器人更具幽默感,它旨在模仿《銀河系漫遊指南》一書,用“一點點的智慧”來回答問題,還有著“一點點的叛逆”。這本書曾將馬斯克從青春期的抑鬱狀態中拯救出來,其中將超級計算機的使命定義為“找出關於生命、宇宙和萬物終極問題的答案”。

目前的Grok跟此前OpenAI發佈的GPT-3.5形式差不多,但是測試結果顯示,它在數學、代碼和多學科知識評測中比GPT-3.5表現得更好。而且Grok擁有的先天優勢在於,能夠從X平臺獲取實時信息。

馬斯克坐擁一筆龐大的數據資產——X平臺(原推特)的信息流,可以用來“喂養”人工智能,接受現實中人類發言和對話信息的訓練。他曾表示,這是收購推特的附加福利。另外,他還有來自特斯拉的導航和視頻數據,可能將使其團隊開發的聊天機器人不限於文本生成。

據美媒報道,馬斯克計劃在3月下旬通過一輪私人融資籌集10億至30億美元,他個人可能也會進行投資,屆時xAI估值可能高達200億美元。但是今年早些時候,面對媒體的詢問,馬斯克一再否認xAI 正在籌集資金。即使達到200億美元的估值,仍然隻是OpenAI目前的一小部分。今年2月,隨著OpenAI與風險投資公司Thrive capital達成最新股票出售協議,OpenAI的估值已經提高到800億美元以上。

活躍在當今輿論場上的馬斯克有時看起來像不可理喻的怪咖,語出驚人、四面樹敵,有時又像天真的孩童對科學充滿好奇和無邊無際的想法。圍繞人工智能,他對於安全性的執念難以被評判,但其警示的該領域的未來發展不容忽視。

“要讓人工智能幫助我們解宇宙的真正本質,它必須能夠摒棄流行卻錯誤的東西,而選擇不流行但正確的東西。”馬斯克3月5日在x平臺上說道。


相關推薦

2024-03-06

字的訴訟文件中,指控 OpenAI 不計後果地開發人類級別的人工智能,並將其移交給微軟。馬斯克的訴訟要求法院強制 OpenAI 回歸開源,並阻止公司及其創始人以及微軟等背後支持者從中獲利。(參見:《馬斯克起訴 OpenAI:他們做

2024-03-09

點。在OpenAI的官網主頁上寫著,“我們的使命是確保通用人工智能(AGI)造福全人類。”最初,OpenAI的確作為一個非營利組織堅持著這樣的路線。而自GPT-2後,OpenAI采取閉源策略,公司出售大模型API訪問權限,但不再發佈有關其

2024-03-18

轉載上述帖子,稱所謂強大到會為人類帶來風險的“超級人工智能”並非指日可待,意指OpenAI所謂的“為安全而閉源”完全就是自欺欺人。“如果你出於某種天真和優越感,覺得自己是能生產出“超級人工智能”的人,而其他人

2023-04-14

將到來的經濟衰退的擔憂。特斯拉CEO、億萬富翁埃隆·馬斯克(ElonMusk)日前警告稱,明年之前美國經濟將舉步維艱。美國當地時間周三晚些時候,馬斯克在Twitter上寫道:“我的猜測是,明年春天之前(美國經濟)會很艱難。”

2024-03-18

閉源與開源雙線作戰,閉源對抗OpenAI,開源對抗Meta。在人工智能領域裡,Google可以算是開源大模型的鼻祖。今天幾乎所有的大語言模型,都是基於Google在2017年發佈的Transformer論文,這篇論文顛覆整個自然語言處理領域的研究范

2023-11-26

代,馬斯克開啟電動汽車和商業航天的時代,Altman則打開人工智能時代的大門。所以,我們需要的是進步?還是需要一個道德高尚的英雄,這其實是一個問題。

2024-03-07

及多位美國參議員和眾議員。瓊斯聲稱,他發現微軟基於人工智能的藝術制作工具Designer(前身為必應圖像創作工具)的護欄機制存在問題。今天,瓊斯又提出新的說法,稱Designer可以通過一些文字提示來創建暴力和性主題圖片

2023-04-18

手,它是一個最大程度上探尋真相、試圖理解宇宙本質的人工智能(AI)。我認為,這可能是實現安全的最佳途徑,因為一個關心解宇宙的AI不可能毀滅人類,因為我們是宇宙中有趣的一部分。”馬斯克和開發ChatGPT的OpenAI頗有淵

2024-03-06

OpenAI周二回擊馬斯克對該公司的訴訟,並附上馬斯克與薩姆·奧特曼等公司聯合創始人之間的五封郵件,以證明馬斯克曾同意該公司籌集更多資金、創建營利性組織並逐步放棄開源產品發佈的計劃。OpenAI還表示,打算采取行動,

2023-11-23

裡,被稱為“有效利他主義”的社會思潮運動,在矽谷各人工智能公司的員工和高管產生激烈的分歧。而這股思潮的信奉者與非信奉者間的針鋒相對,似乎也正成為OpenAI過去一周震驚世界的“宮鬥事件”背後,真正的“無形之手

2022-10-10

事件在該地區非常普遍,以至於不少人自嘲生活在一個“開源國傢”。截圖(來自:breached.to)泄露數據中包括 13 億級 SIM 用戶的身份 ID、電話號碼、以及電信運營商名稱等信息,而在混亂中驚醒的人們,也很快從震驚變得憤怒

2023-05-17

有趣的一幕發生。今天上午,在美國國會針對人工智能監管的聽證會開始時,參議員理查德·佈盧門撒爾(RichardBlumenthal)“講”一段宣言。他的聲音在大廳裡響起:“我們經常看到技術超過監管時會發生什麼。會加深對個人數

2024-03-01

·奧特曼。馬斯克在訴訟中表示,奧特曼和OpenAI違背這傢人工智能研究公司成立時達成的一項協議,即開發技術以造福人類而不是利潤。馬斯克聲稱,OpenAI最近與科技巨頭微軟的關系損害該公司致力於公共、開源的通用人工智能

2024-03-05

隆·馬斯克在 OpenAI 創立之初,便致力於打造一個開放的人工智能研究機構,推動技術的透明度和共享,確保人工智能的進步能夠惠及全人類。他曾在采訪中透露,OpenAI 的名字是他所起,並強調自己在招募關鍵科學傢和工程師方