OpenAI緊急召開員工大會 員工質問解雇“是否政變”


OpenAI管理層大換血,在換血後,OpenAI內部緊急召開一場員工大會,在這場緊急員工大會上,OpenAI聯合創始人兼董事會成員IlyaSutskever主要負責回答問題。會上兩名員工詢問此次解雇是否構成“政變”或“敵意收購”,但被IlyaSutskever否定,他將問題帶回安全議題本身。事實上在“罷免”事件發生前,員工內部已經就該公司開發人工智能是否足夠安全進行過爭論。

不是“政變”,而是“安全”問題

根據會議記錄,至少有兩名員工詢問負責 OpenAI 最大研究突破的Ilya Sutskever,此次解雇是否構成“政變”或“敵意收購”。對於一些員工來說,這個問題暗示蘇茨克弗可能認為Altman在將該軟件商業化方面動作太快——該軟件已經成為一項價值數十億美元的業務——而犧牲潛在的安全問題。

“你可以這樣稱呼它,”Ilya Sutskever在談到‘政變指控’時說道。“我可以理解你為什麼選擇這個詞,但我不同意這一點。這是董事會履行非營利組織使命的職責,即確保 OpenAI 構建造福全人類的 AGI。” AGI 代表通用人工智能,這個術語指的是能夠像人類一樣進行推理的軟件。(另一人表示,Sutskever 可能誤解與其他方可能對 OpenAI 進行惡意收購有關的問題。)

當被問到“這些通過後臺清除的方法是否是管理世界上最重要的公司的好方法?” 他回答說:

“公平地說,我同意其中100%存在不理想的因素。”

Altman本人並沒有參與將他踢出董事會的那場投票,此前華爾街見聞已經報道,當“罷免”消息公佈後,Greg Brockman在社交平臺上梳理自己與 Sam Altman被董事會罷免的細節,並梳理時間線。

但開除Altman的六人董事會並沒有解釋此舉的原因,隻是說Altman“向董事會的溝通不夠坦誠”,但在公司為開除後的內部危機管理中,安全一直是最大的主題。

例如,在周五致員工的備忘錄中,暫時擔任CEO的Mira Murati提到“我們的使命和共同開發安全有益的通用人工智能的能力”。

她說公司有三大支柱:“最大程度地推進我們的研究計劃,我們的安全和價值觀調整工作——特別是科學預測能力和風險的能力,以有利於所有人的方式與世界分享我們的技術。”

根本分歧已經持續很久

關於AI安全的顧慮使這傢創業公司的領導人產生分歧。

2020年底,一部分員工由於在公司的商業戰略和技術發佈速度上的分歧,從OpenAI分裂出去創立自己的創業公司Anthropic。而為確保OpenAI的技術開發不會受到財務激勵的影響,Anthropic組建一個獨立的五人小組,可以雇傭和解雇公司的董事會。

多年來,AI從業者一直擔心更強大的模型可能被濫用,比如開發生物武器、生成有說服力的深度偽造或入侵關鍵基礎設施。一些人還認為這些系統最終可能會變得自主並以人類的代價失控。

隨著OpenAI開發出可以自動化寫作、編程和從零生成逼真圖像的突破性人工智能,公司的一些員工討論這樣的AI潛在危害——特別是如果它學會自我改進。

今年夏天公司成立一個團隊,由Sutskever和‘alignment’研究員Jan Leike共同領導(AI alignment研究就是通過各種技術手段,使AI系統的目標與人類利益一致,防止AI系統做出危害人類的行為),致力於尋找技術解決方案,防止其AI系統失控。在一篇博文中,OpenAI說它將專註五分之一的計算資源來解決“超級智能”的威脅,蘇茨克韋爾和Leike寫道這“可能導致人類失去權力甚至滅絕”。

與Altman的野心與激進形成對比的是,Sutskever一直以來都非常關註安全,在7月的一次采訪中,蘇茨克韋爾說,他最擔心強大的通用AI在未來幾年的危險性,但希望未來AI技術可以幫助人類對自己進行監管,可能解雇Altman本身就是這個“alignment”的例子。

他在公司內有許多追隨者。前員工將他描述為一位備受尊敬和親力親為的領導者,他對指導這傢創業公司的前沿技術至關重要。


相關推薦

2024-03-06

3月6日消息,在OpenAI最近召開的全體員工大會上,首席執行官薩姆·奧特曼(SamAltman)表示,針對去年底他被解雇後再復職的內部調查即將結束。盡管一些員工在會上提出有關調查的問題,奧特曼對此隻是輕描淡寫地表示調查“

2024-05-09

歷顯著的業績增長,推動公司市值突破2萬億美元大關,員工們在最近的全體會議中卻表達對自身薪酬和公司成本削減策略的不滿。員工們向高管提出關於士氣下降、不信任感增加以及管理層與員工之間關系斷裂的擔憂,並迫切

2022-12-07

工資將會延遲發放。此前爆料稱,國美董事長黃秀虹在員工大會上宣佈,公司到12月底前隻會給員工繳納社保,中長期工資發放也存在不確定性。據不完全統計,今年1-11月,黃光裕、杜鵑夫婦共進行15次減持操作,持股比例從年

2023-11-21

據知情人士透露,ChatGPT制造商OpenAI的一些投資者正在尋求對該公司董事會采取法律手段。此前,該公司董事會罷免首席執行官山姆·奧特曼(SamAltman),並引發潛在的員工大規模流失。知情人士稱,投資者正在與法律顧問合作,

2022-11-13

度招聘負責。周五,紮克伯格和其他高管為留下來的員工召開一次市政廳會議,並回答他們的提問。據在場人士透露,在問答環節,一名員工問一個有關推特裁員的問題,紮克伯格也加入討論。他表示,不同公司對待裁員的方式

2022-11-18

,據相關爆料,數百名推特員工準備離職,馬斯克已召開緊急會議,試圖挽留一些“關鍵”員工。在爆發大規模辭職後,推特公司暫時關閉所有辦公樓並暫停員工訪問權限。據悉,馬斯克向推特的剩餘員工發送一封郵件,要求他

2023-11-18

OpenAI深夜突然變天,在管理層的大換血中,一直被視為OpenAI的代言人的SamAltman,以及被稱為ChatGPT之父的OpenAl前總裁、核心AI科學傢Greg Brockman,竟在這場“權力遊戲”中意外出局?這一天究竟發生什麼?剛剛,Greg Brockman

2023-11-23

間的談判後,當地時間11月21日深夜,人工智能開發機構OpenAI宣佈,已經原則上達成協議,創始人山姆·奧特曼重返公司擔任CEO,“並組建由BretTaylor(主席)、LarrySummers和AdamD‘Angelo組成的新董事會。我們正在合作找出細節。非常

2023-11-22

間的談判後,當地時間11月21日深夜,人工智能開發機構OpenAI宣佈,已經原則上達成協議,創始人山姆·奧特曼重返公司擔任CEO,“並組建由佈雷特·泰勒(BretTaylor)(主席)、拉裡·薩默斯(LarrySummers)和亞當·德安傑洛(AdamD’

2023-11-19

都不敢這麼拍。當地時間11月17日,在一個視頻會議上,OpenAI的董事會突然宣佈,聯合創始人兼CEOSamAltman即刻離職,ChatGPT開發的關鍵人物GregBrockman也被罷免,公司CTOMiraMurati則被任命為臨時CEO。在一篇發表在 X 上的帖子中,Sam Altma

2024-04-23

加州桑尼維爾市的辦公室靜坐示威)後,Google已解雇更多員工。幾天前,首席執行官桑達爾-皮查伊(Sundar Pichai)在一份全公司備忘錄中告訴員工,他們不應將公司作為"個人平臺",或"為破壞性問題爭吵或辯論政治&quo

2023-11-20

就在剛剛,持續兩天半的《矽谷風雲之年度OpenAI奪權大戲》終於迎來尾聲:據外媒TheInformation報道,OpenAI聯合創始人、首席科學傢、董事會董事伊利亞·蘇特斯科夫(IlyaSutskever)在舊金山周日晚上(北京時間今天中午)告訴員工

2022-08-29

據報道,在公司要求下,美國谷歌公司的許多員工已經回到辦公室上班,但是最近,員工們卻從管理層時常收到有關員工感染新冠病毒的通告,這導致員工們對於公司要求返回辦公室上班的政策提出質疑。引發員工不滿多位不願

2023-02-10

圍一直僅限於AI研究者內部,並沒有大范圍破圈。再加上OpenAI遲遲沒有推出更好的產品,展示的GPT應用場景又較狹窄,盡管大傢都覺得GPT確實厲害,但破圈的爆點尚未到來。況且ChatGPT背後的技術並非獨門秘籍,該模型所需要的千