全人類最擔心的“AI安全”,害Sam Altman最終“失業”


好萊塢諜戰片,都不敢這麼拍。當地時間11月17日,在一個視頻會議上,OpenAI的董事會突然宣佈,聯合創始人兼CEOSamAltman即刻離職,ChatGPT開發的關鍵人物GregBrockman也被罷免,公司CTOMiraMurati則被任命為臨時CEO。

在一篇發表在 X 上的帖子中,Sam Altman 表示“我熱愛在 OpenAI 的時光”,並且他將“稍後有更多關於未來的話要說”。

Greg Brockman 則表示“Sam 和我對董事會今天的做法感到震驚和悲傷”“我們會沒事的。更偉大的事情即將到來。”

現在,大傢都在猜,OpenAI 究竟發生什麼?為什麼要解雇 Sam Altman 和罷免 Greg Brockman?

OpenAI 的董事會由 OpenAI 首席科學傢 Ilya Sutskever、Quora 首席執行官 Adam D'Angelo、科技企業傢 Tasha McCauley 和喬治敦安全和新興技術中心的戰略總監 Helen Toner 組成。

就在 OpenAI 宣佈解職 Sam Altman 之前,llya 曾經給 Sam 發過一條短信,通知他 17 日上午加入視頻會議。後來的事情大傢都知道。

從目前的信息來看,解雇一事是由董事會成員 Ilya Sutskever 通知的,這個人領導一個AI安全團隊,而臨時CEOMira Murati 也是提前知情的

而導致 Sam Altman 最終被踢走,可能並非首席科學傢 llya 的“宮鬥”,而是整個 AI 行業都在談論,也讓全球監管最擔心的,“安全”問題。

“安全”分歧

在 Sam Altman 被解雇前,OpenAI 內部關於AI安全性的分歧和爭論一直存在

今年夏天,OpenAI 成立一個安全團隊,致力於尋找防止 AI 失控的技術解決方案,解和限制 AI 對社會的危害,如濫用、經濟混亂、虛假信息、偏見和歧視、成癮和過度依賴等,並稱要將公司獲得的 20% 的算力用於這項工作。

領導該安全團隊的其中一個人,是OpenAI的聯合創始人、首席科學傢兼董事會成員 Ilya Sutskever,也正是這個人,對 Sam Altman 下解雇通牒。


Sam Altman 和 Ilya Sutskever(右)在特拉維夫一個活動上|qz.com

根據 Greg Brockman 的說法,美國時間 11 月 16 日晚上,Sam 收到 Ilya 的一條短信,要求周五中午談話。Sam 加入一個會議,除 Greg 外,整個董事會都在那裡。Ilya 告訴 Sam 他被解雇,消息很快就會發佈。

11 月 17 日中午,Greg 收到 Ilya 的一條短信,要求進行一次快速通話。Ilya 發送一個會議鏈接,Greg 隨後被告知他將被從董事會移除,但公司將保留他的角色。

Greg 是 OpenAI 最早的幾名員工之一,花大量時間編寫軟件,是開發 ChatGPT 和其他核心產品的關鍵人物,持有公司股權,在董事會解雇 Sam Altman 幾小時後,他選擇辭職,或許因為他是 Sam Altman 的親密盟友

大約在同一時間,OpenAI 發佈一篇博客文章。稱“Altman 先生的離職是在董事會進行審議審查過程後得出的結論,他在與董事會的溝通中始終不坦誠,這阻礙其履行職責的能力。董事會對他繼續領導 OpenAI 的能力不再有信心。”

大傢都在質疑,這是否是發生在 OpenAI 的一場惡意的“政變”。被解雇的 Sam Altman 得到一大片支持和惋惜之聲。

前GoogleCEO埃裡克·施密特 Eric Schmidt 直接稱 Sam Altman 是英雄,贊他將 OpenAI 從無到有轉變 900 億美元的非凡估值。Airbnb 首席執行官 Brian Chesky 也加入對 Sam Altman 的贊揚行列,稱他是這一代人中最優秀的創始人之一。

在解雇 Sam Altman 後臨時召開的全員會議上,面對“政變”的指控,Ilya 的回應據稱是,“你可以這樣說”“但我不同意”,他認為“這是董事會履行其非營利組織使命的責任,即確保OpenAI構建造福整個人類的 AGI”。

在發給員工的內部備忘錄中,臨時 CEO Mira Murati 提到“我們的使命和共同開發安全有益的 AGI 的能力”。她稱 OpenAI 有三個支柱,包括“最大程度地推進我們的研究計劃,我們的安全和對齊工作——特別是我們在科學上的預測能力和風險方面的能力,以及以有益於所有人的方式與世界分享我們的技術。”


Ilya Sutskever、Sam Altman、Mira Murati、Greg Brockman|Wired

OpenAI 成立於 2015 年,成立之初就定位為一傢非營利組織。然而,在 2019 年,OpenAI 進行重組,Sam Altman 成為 OpenAI 首席執行官,他幫助創建一傢名為 OpenAI LP 的營利性子公司,以便從微軟等外部投資者那裡籌集資本,用於訓練 AI。而 OpenAI 本身仍然是一個由董事會管理的非營利組織。

Altman 在籌集資金方面發揮關鍵作用,包括從微軟那裡獲得的 100 億美元。盡管 OpenAI 給投資者設定一個利潤上限,OpenAI 的估值如今已經達到 850 億美元,據 Sam Altman 最近告訴員工,OpenAI 正在產生 13 億美元的年化收入。

另一邊,對於 AI 安全性的擔憂,以及 OpenAI 的商業化,也分裂 OpenAI 內部的管理層。就在 2020 年底,OpenAI 的一幫員工離開公司,創立 AI 公司 Anthropic,這傢公司以安全為賣點,創始人還直接對外表示離開是因為對 OpenAI 商業化和戰略的不滿。

Ilya 也一直擔心未來幾年強大 AGI 的危險,此前,在 OpenAI 的一篇博客文章中,他寫道“巨大的超級智能力量可能非常危險,並可能導致人類被剝奪權力甚至人類滅絕。”

在解雇 Sam Altman 後,OpenAI 董事會在一份聲明中續稱,“OpenAI 旨在推進我們的使命:確保人工智能造福全人類。董事會仍然完全致力於為這項任務服務。”

到底哪裡“不坦誠”?

除“安全”問題,OpenAI 董事會所說的 Sam Altman“不坦誠”方面,從現有消息看,Sam Altman 是否隱瞞支出也存在質疑。

11 月 15 日,就在 Sam Altman 被解雇的前兩天,OpenAI 頗具爭議地宣佈將停止 ChatGPT Plus(每月 20 美元的高級版本)的新註冊。這在一定程度上凸顯成本和營收的問題。

內部消息人士稱,OpenAI 在每個 ChatGPT Plus 用戶身上都在虧損,並且需要時間來增強服務器容量。

這與 Sam Altman 被解雇的時間太過重合,以至於部分人士猜測,Sam Altman 是否向董事會歪曲財務數據、用戶數量或雲計算成本?支出是否高於預期?或者他是否阻礙董事會獲取相關信息?

另一個側面的證實聯系是,董事會還解除 OpenAI 聯合創始人兼首席技術官 Greg Brockman 的董事長職務,因為 Greg 可能會關註運行 OpenAI 系統的技術成本。他是這傢初創公司最有影響力的人物之一,在從產品決策到為工程團隊設定方向的一切事務中具備發言權。如果支出脫軌,兩位管理者便可能是同謀。

另外,有關 Sam Altman 的離職還涉及到一些不尋常的因素,有消息稱,Sam Altman 計劃將 OpenAI 技術用於 Worldcoin,這也引發一些道德危險的擔憂。


OpenAI 開發者大會上 Sam Altman 和薩提亞開個小玩笑|OpenAI

作為 OpenAI 的“金主”,微軟的態度如何?據解此事的人士稱,在 Sam Altman 被解雇的消息公開前,微軟領導層隻從 OpenAI 那裡得到 5 到 10 分鐘的提前通知。OpenAI 臨時 CEO Mira Murati 在周五的一次全公司會議上告訴員工,他們與微軟的關系保持穩定。

就在前不久,微軟於 11 月 9 日曾短暫屏蔽員工在公司設備上訪問 ChatGPT,並警告員工,給出的理由是存在安全擔憂。

距離 OpenAI 的開發者大會僅過去 10 天,彼時 Sam Altman 還與微軟高管談笑風生,甚至還在 15 日參加他與微軟基礎設施高管的定期會議。

“今天在很多方面都是一次奇怪的經歷。”Sam Altman 在 X 的帖子上坦言。

他曾表示 GPT-5 的終極目標是創造相當於人腦的超級 AI,但 AI 的發展是否已經出現安全問題,最終導致這場快速的內部“政變”?

被踢出 OpenAI 後,Sam Altman 的下一步又會是什麼?

OpenAI 解雇 Sam Altman 事件時間表:

2023 年 11 月 6 日

OpenAI 舉行開發者大會,推出“自定義 ChatGPT”功能。

2023 年 11 月 9 日

微軟發出警告,要求其員工停止使用 ChatGPT,因為存在安全問題。

2023 年 11 月 15 日

OpenAI 暫停 ChatGPT Plus 的註冊。微軟 CEO 薩提亞·納德拉在 Ignite 大會上宣佈,OpenAI 所有創新都將用在微軟的 Azure 雲服務上。

2023 年 11 月 16 日

Sam Altman 收到 llya 短信,通知周五中午談話。

2023 年 11 月 17 日

OpenAI 的董事會突然宣佈,聯合創始人兼 CEO Sam Altman 即刻離職。董事會在一次審查後得出結論,認為 Altman 在與董事會的溝通中不夠坦誠,妨礙董事會執行其職責的能力。董事會對他繼續領導 OpenAI 失去信心。同日,Altman 在 X 平臺(前 Twitter)上發表關於他離職的聲明。

2023 年 11 月 17 日晚些時候

OpenAI 聯合創始人和前董事會主席 Greg Brockman 宣佈他也將離開公司。這是在董事會要求 Brockman 辭去董事會主席職務但保留在公司的角色後發生的。

2023 年 11 月 17 日

OpenAI 任命公司首席技術官 Mira Murati 為臨時首席執行官。


相關推薦

2023-11-18

事會履行非營利組織使命的職責,即確保 OpenAI 構建造福全人類的 AGI。” AGI 代表通用人工智能,這個術語指的是能夠像人類一樣進行推理的軟件。(另一人表示,Sutskever 可能誤解與其他方可能對 OpenAI 進行惡意收購有關的

2024-03-21

存在的風險。Sam Altman:就我目前的看法而言,這不是我最擔心的問題。曾經有一段時間我對此非常擔心。未來可能繼續成為我最擔心的問題。但現在這不是我最擔心的問題。記者:你不擔心 AGI 失控是為什麼呢?因為還有很多其

2023-11-21

乎一定會進行權力的再分配,以更好地完成“確保AI造福全人類”的使命。其次,對於Altman來說,任務繼續。去微軟後,很可能會在新部門成為“獨裁者”,從而以“加速”思維主導AI研究,推動整個AGI領域的發展。第三,微軟

2023-11-19

來都非常關註安全,在7月的一次采訪中,Sutskever說,他最擔心強大的通用AI在未來幾年的危險性,但希望未來AI技術可以幫助人類對自己進行監管,可能解雇Altman本身就是這個“alignment”的例子。他在公司內有許多追隨者。前員

2024-05-10

能和地緣政治的專題討論會上,阿爾特曼說道:“我現在最擔心的事情是,社會經濟變化可能會產生什麼樣的變化,這種變化速度和幅度是怎麼樣的,以及會產生什麼影響。”阿爾特曼指出,與去年相比,今年圍繞人工智能對經

2023-11-07

日報》會議上表示人工智能導致人類失業,是個不需要太擔心的很久以後才會發生的事。不到十年時間,Altman和他共同創立的公司OpenAI發佈名為ChatGPT的人工智能聊天機器人。它能夠撰寫電子郵件、商業計劃、甚至是代碼,而這

2023-03-19

生,你知道,在個位數的年數中,其中一些轉變,這是我最擔心的部分。但他鼓勵人們更多地將 ChatGPT 視為一種工具,而不是替代品。他補充說,“人類的創造力是無限的,我們找到新的工作。我們找到新的事情要做。”“我認

2024-03-10

最具經濟價值的工作中超越人類的高度自治系統——造福全人類。OpenAI承諾會遵循“利益分配廣泛、長期安全、技術領先、合作導向”的原則。為實現這一目標,早期的OpenAI會將其技術開源,直到2020年發佈GPT-3為止,一直閉源到

2023-02-26

的當前和後續規劃。文章強調,OpenAI的使命是確保AGI造福全人類。OpenAI願景:確保AGI造福全人類文中,提出OpenAI最關心的三原則。如果AGI最終成功構建,這項技術不僅可以帶來更多可能性,推動全球經濟發展,還能改變新興科學

2023-11-19

營利性組織,核心使命是確保通用人工智能(AGI)能造福全人類。OpenAI的受益者是全人類,而非投資人。考慮到AGI的發展需要大量資金支持,2019年OpenAI宣佈調整為“利潤上限”模式,董事會是所有OpenAI活動的總體管理機構。具

2023-03-30

必須放慢這些系統的開發速度,讓社會適應。”馬斯克的擔心:關不掉的AI馬斯克對AI的警惕由來已久,早在2014年,馬斯克曾在一次采訪中公開表示,我們應該對人工智能非常小心,如果一定要猜人類生存的最大威脅是什麼,那

2023-09-09

希望在這不穩定的局勢中創造一個更好的世界,也堅信人類最終將能夠克服分歧,共同合作,解決一些系統性問題——比如氣候變化、貧困和可持續發展目標。我有一個七歲的女兒,希望能留給她一個更美好的世界。隨著全世界

2023-11-21

OpenAI的發展路線上設置諸多的溝通障礙,包括商業化、AI安全性等問題上。在這場全世界圍觀的AI巨頭“政變”暫時落幕後,針對原因的公開說法仍停留在OpenAI那封人事變動公告中:董事會對Altman不信任。而包括OpenAI首席運營官Brad

2023-11-18

表示,OpenAI全力以赴的使命仍然是確保通用人工智能造福全人類。“我們非常感謝Sam在OpenAI創立和成長中所做出的諸多貢獻。同時,我們認為隨著公司的發展,需要新的領導層。”根據任命,Mira Murati將暫時接棒CEO職務:“Mira作