“AI安全”和“商業化”的深層次矛盾是這場“宮鬥大戲”的背後原因?憑借廣受歡迎的聊天機器人ChatGPT,OpenAI一夜成名,OpenAI首席執行官SamAltman也成為科技界知名人物。而這種似乎引發公司內部的緊張關系,一場讓科技圈地震的內鬥在周末上演,劇情反轉,再反轉……
當地時間周五,Altman被以OpenAI聯合創始人兼董事會董事Ilya Sutskever為首的董事會成員中趕下臺。
但在周六,一個令人大跌眼鏡的轉折出現,Sutskever在員工大會上稱,公司高管努力讓Altman回歸。
然後,最終再次發生反轉,在與董事會、高管以及投資者們進行為期一個周末的談判後決定Altman將不會回到OpenAI。
據媒體最新報道,知情人士表示,Sutskever越來越擔心 OpenAI 的技術可能會帶來危險,而Altman對這種風險重視不夠,此外“商業化”和盈利也似乎是導致內部分裂的原因之一。
AI安全隱患擔憂加劇
Altman下臺引起人們對人工智能界長期存在的風險的關註。有人認為人工智能是一代人中最大的商機,也有人擔心發展太快會帶來危險。罷免Altman的投票結果表明,一場致力於恐懼人工智能風險的思想運動已經成為科技文化不可避免的一部分。
自ChatGPT發佈近一年以來,人工智能吸引公眾的註意力,人們希望它能被用於藥物研究等重要工作或幫助教育兒童。但也有一些人工智能科學傢和政治領導人擔心其風險,比如工作崗位會被自動化淘汰,或者自主戰爭的發展會超出人類的控制范圍。
OpenAI的董事會並沒有給出趕走Altman的具體原因,隻是在一篇博文中表示,董事會認為Altman先生沒有與他們坦誠溝通。根據媒體的一條信息,OpenAI 的員工在周六上午被告知,Altman被解雇並不是因為“瀆職或與我們的財務、業務、安全或安全/隱私做法有關的任何事情”,而是因為“Altman與董事會之間的溝通破裂”。
最近幾周,幫助監管 ChatGPT 核心技術 GPT-4 的 Jakub Pachocki 被提升為公司的研究總監。據兩位熟知內情的人士透露,Pachocki之前的職位低於Sutskever,現在他被提升到與Sutskever同等的位置。兩位知情人士說,Pachocki 周五晚些時候從公司辭職。
值得一提的是,剩下Sutskever先生和另外三名董事會成員:他們是問答網站 Quora 的首席執行官 Adam D‘Angelo、RAND公司兼職高級管理科學傢Tasha McCauley和喬治城大學安全與新興技術中心戰略與基礎研究基金主任Helen Toner。
McCauley和Toner與Rationalist and Effective Altruist 運動有聯系,這個團體對人工智能有朝一日可能毀滅人類深感憂慮。今天的人工智能技術無法毀滅人類,但這個群體相信,隨著技術的日益強大,這些危險將會出現。
Sutskever也越來越認同這些理念。11月2日,Sutskever先生在一次播客節目中說:
我們將擁有比人聰明得多的計算機——數據中心,這似乎一點也不意外,但這種人工智能會做什麼?我不知道。
商業化背離非盈利“初心”?
除安全之外,Altman與董事會另一層可能的矛盾是“商業化”。
2015 年,Sutskever、Altman和Brockman在特斯拉首席執行官馬斯克的幫助下一起創建 OpenAI,當時OpenAI作為非營利組織成立,他們表示,與Google和其他公司不同,該實驗室不會受到商業激勵的驅動。
2018 年,Altman 將 OpenAI 轉變為一傢營利性公司,並與微軟談判獲得 10 億美元的投資。這筆巨額資金對於構建像今年早些時候發佈的 GPT-4 這樣的技術至關重要。自最初投資以來,微軟又向該公司投入 120 億美元。
但是該公司仍由非營利性董事會管理,像微軟這樣的投資者確實能從 OpenAI 獲得利潤,但他們的利潤是有上限的。任何超過上限的資金都會回流到非營利機構。
在這個擁有“營利”與“非營利”雙重屬性的公司架構中,阿爾特曼與蘇茨克沃正代表兩種立場。
由於看到 GPT-4 的威力,Sutskever更註重安全性,在公司內部創建一個新的“超對齊”團隊,該團隊旨在探索確保技術未來版本不會造成傷害的方法。
而Altman則希望OpenAI能夠保持領先於競爭對手,因此傾向於快速實現生成式AI產品的商業化,部署橫跨全球的消費者業務。
據兩位熟悉內情的人士透露,9月下旬,Altman飛往中東與投資者會面。他尋求來自日本投資企業軟銀(SoftBank)最多10億美元的資金,用於OpenAI旗下的新設企業——該企業打算生產一種硬件設備,用於運行像ChatGPT這樣的人工智能技術。
此外,OpenAI 還在洽談“要約收購”融資,允許員工將公司股份套現,這筆交易將使 OpenAI 的市值超過 800 億美元,幾乎是六個月前的三倍。