席卷周末OpenAI的“政變”風波，令全球AI行業目瞪口呆。華爾街見聞此前文章提到，此次內鬥的根源，可能在於AI監管與商業化之間的矛盾——OpenAI首席科學傢IlyaSutskever無法接受CEOSamAltman激進的商業化戰略，因此和其他董事聯手，趕走Altman和公司總裁GregBrockman。
但在商業化上不斷提速、把AI安全放在次要位置的，並不隻有OpenAI，整個矽谷，都是如此。
野心與安全的矛盾
在Sam Altman被趕下臺之前，OpenAI在商業化上的野心和激進，已經讓OpenAI首席科學傢Ilya Sutskever等人憂心忡忡。
媒體援引知情人士的分析指出，Altman和Sutskever的矛盾包括AI安全性、技術發展速度以及公司商業化等方面。Altman“路人皆知”的野心也可能造成這一局面。
除開發大模型，Altman還計劃涉足硬件開發、AI芯片等眾多產業。此前有報道稱，Altman尋求向中東主權財富基金融資數百億美元以創建一傢AI芯片創業公司，與英偉達GPU競爭；Altman還在爭取軟銀孫正義的數十億美元投資和蘋果前設計主管Jony Ivy一同開發一款硬件設備；他還投資前蘋果設計師Imran Chaudhri和Bethany Bongiorno成立的AI硬件公司Humane。
而且，近期多模態、GPTs等一系列重磅功能的飛速上線，也讓首席科學傢Ilya Sutskeve感到不安。他認為，OpenAI需要更多的時間來弄清楚研究路徑，而不是急於匆忙部署產品。
因此，在11月17日的董事會議上，內鬥爆發。Ilya Sutskeve當場表示，公司不應該繼續籌集資金和擴大規模，Altman未經董事會同意就離開會場，隨後被直接解雇。
Sutskever傾向於把安全放在首位
相比Altman，Sutskever有著更加深厚的技術背景，是圖靈獎得主Geoffrey Hinton的同事、首個深度卷積網絡AlexNet的設計者之一。同樣，他也更加關註AI的潛在威脅。
在此前的公開演講和訪談中，Sutskever曾多次表示，他的主要工作不是開發GPT-5，而是弄清楚如何讓“超級智能”安全可控。
在OpenAI的8年歷史中，商業化與AI安全的矛盾並非第一次出現。2020年底，一部分員工由於在公司的商業戰略和技術發佈速度上的分歧，從OpenAI分裂出去創立自己的創業公司Anthropic。而為確保OpenAI的技術開發不會受到財務激勵的影響，Anthropic組建一個獨立的五人小組，可以雇傭和解雇公司的董事會。
多年來，AI從業者一直擔心更強大的模型可能被濫用，比如開發生物武器、生成有說服力的深度偽造或入侵關鍵基礎設施。一些人還認為這些系統最終可能會變得自主並以人類的代價失控。
隨著OpenAI開發出可以自動化寫作、編程和從零生成逼真圖像的突破性人工智能，公司的一些員工開始擔憂，一旦AI學會自我改進，之後會發生什麼？
今年夏天公司成立一個團隊，由Sutskever和‘alignment’研究員Jan Leike共同領導（AI alignment研究就是通過各種技術手段，使AI系統的目標與人類利益一致，防止AI系統做出危害人類的行為），致力於尋找技術解決方案，防止其AI系統失控。
在一篇博文中，OpenAI說它將專註五分之一的計算資源來解決“超級智能”的威脅，Sutskever和Leike指出，這“可能導致人類失去權力甚至滅絕”。
與Altman的野心與激進形成對比的是，Sutskever一直以來都非常關註安全，在7月的一次采訪中，Sutskever說，他最擔心強大的通用AI在未來幾年的危險性，但希望未來AI技術可以幫助人類對自己進行監管，可能解雇Altman本身就是這個“alignment”的例子。
他在公司內有許多追隨者。前員工將他描述為一位備受尊敬和親力親為的領導者，對指導這傢創業公司的前沿技術至關重要。
矽谷風向變，AI軍備競賽已經開始，安全退居次席
在技術和商業化上提速的不止OpenAI，整個矽谷都是如此。
此前有傳言稱，Meta已經解散其2019年設立的負責任人工智能（RAI）團隊。
本周日，Meta已證實這一消息：RAI的確已經解散，大部分成員將轉到公司的AI產品團隊，其他人則將轉到AI基礎設施相關團隊任職。
Meta對此回應稱：
“公司將繼續優先投資於安全、負責任的人工智能開發。”
Meta還表示，雖然公司正在拆分RAI團隊，但這些成員將繼續支持相關工作，確保公司負責任地開發和使用人工智能。
RAI的任務主要是識別AI訓練方法中存在的問題，包括公司的模型是否經過充分多樣化的信息訓練，防止錯誤和幻覺。Meta社交平臺上的自動化系統已經導致一些問題，WhatsApp的AI表情包在特定提示下會生成有偏見的圖片，Instagram的算法之前被曝出會顯示兒童性虐待內容。
Meta經常強調其在AI研發上如何“負責任”，甚至還專門為此設立一個頁面，列出其“負責任的人工智能支柱”，包括問責制、透明度、安全性、隱私等。
結果現在，連“負責任”這個部門都沒有。
更早之前，在3月份，有媒體報道稱微軟已經解散其整個AI風險評估團隊。
據悉，這個團隊正式名稱為AI道德與社會團隊，其主要職能在於指導微軟在AI方面的創新，從而產生符合道德標準、負責任以及可持續的結果。最近，該團隊始終在努力評估微軟將OpenAI技術整合到其產品中可能存在的風險。
多位微軟離職和在職員工表示，此舉導致微軟將再也沒有專門的團隊來確保其AI原則與產品設計緊密結合，而目前該公司正在引領潮流，努力讓AI工具成為主流。不過，微軟仍然保留著名為負責任AI辦公室（ORA）的團隊，其任務是制定規則來管理公司的AI計劃。微軟表示，盡管最近進行裁員，但其在責任工作方面的整體投資始終在增加。
種種跡象表明，追逐熱錢的矽谷，在AI風潮中似乎有迷失的跡象：巨額投入帶來的商業化變現壓力、對技術進步的狂熱信仰，可能正使得至關重要的AI安全問題，被許多科技公司所忽略。
Altman會去創辦一傢新公司嗎？
宮鬥懸疑尚未塵埃落定，但無論結果如何，Sam Altman肯定不愁去處，連法國政府都對他拋出橄欖枝。
華爾街見聞此前指出，包括微軟在內的幾傢大股東，已經在向OpenAI董事會施壓，要求Altman回歸。還有媒體報道稱，Altman正在考慮另立門戶，成立新公司，並吸納一些OpenAI之前的員工。
周五被解雇後，包括紅杉資本Alfred Lin和SV Angel創始人Ron Conway在內的幾位風險投資人都發表公開聲明支持Altman，紅杉及SV Angel都是OpenAI的主要投資者。
Alfred Lin在 X 上寫道，他期待看到Altman和Brockman創建的下一個改變世界的公司。
Altman在矽谷有著深厚的關系，與科技巨頭高管、投資人和政要有密切私教。他曾經親自從Google和其他公司挖來許多重要的研究人員和工程師，為OpenAI創業成功奠定基礎。
可以預見的是，無論政變以何種形式收場，無論Altman的野心會不會收斂，他肯定會比以前小心得多，不會再留出組織架構上的疏漏，讓下屬能輕易驅逐他。