在過去幾年裡，被稱為“有效利他主義”的社會思潮運動，在矽谷各人工智能公司的員工和高管產生激烈的分歧。而這股思潮的信奉者與非信奉者間的針鋒相對，似乎也正成為OpenAI過去一周震驚世界的“宮鬥事件”背後，真正的“無形之手”。
有效利他主義是如何影響AI領域的？
有效利他主義（Effective Altruism）於21世紀初萌芽，這套哲學理念希望用證據和推理來選擇最有效的方式以造福他人，即最大或更好地行善。對有效利他主義者而言，一個很重要的目標就是改善這個世界，而且做到愈有效率愈好。這意味著：他們會透過理性分析、衡量狀況，確保手中的資源能夠發揮最大的作用，以最終達到改善世界的目的！
這個理念被那些致力於動物權利和氣候變化的人所接受，他們從哲學傢、數學傢和未來預測傢那裡汲取思想，影響著矽谷和其他地方的人工智能研究界。
按照這一理念推演，在互聯網科技領域，“開源”“免費”“去中心化”等均有利於最大程度地行善，而以營利為基本目標的公司組織形態則與之背道而馳。而在AI領域，有效利他主義者相信，精心打造的人工智能系統在註入正確的人類價值觀後，將帶來一個黃金時間，但如果做不到這一點，可能會帶來世界末日般的後果。
OpenAI於一年前發佈ChatGPT，它的問世其實就部分基於有效利他主義的原則。
奧特曼和馬斯克於2015年開始組建OpenAI，兩人當時的願景便旨在實現通用人工智能（AGI），這是一種推理能力達到或超過人類水平的系統。他們當時表示，希望以一種造福人類的方式實現這一目標，而不僅僅是為企業牟利。
而在某種程度上，OpenAI過去一周的動蕩，本身也是一場由此產生的理念之爭：一方是相信市場規律的群體，而另一方是相信賦予道德、理性、數學和精確調整的機器，才能更為安全地指引人類未來的有效利他主義者。
四位董事中有三位有效利他主義者？
有效利他主義者認為，一味追求人工智能可能會毀滅人類。對於人工智能的發展，他們更傾向於安全而非速度。而不少這場運動的參與者，本身便是過往一年幫助形成人工智能熱潮的引領者。
據熟悉OpenAI內部爭議的人士表示，上周五被OpenAI董事會解雇的奧特曼，與公司首席科學傢兼董事會成員Ilya Sutskever在人工智能安全問題上，就曾發生過激烈沖突。而Sutskever過往的一系列立場，其實就反映有效利他主義者對當前AI高速發展的擔憂。
如同許多人在這場OpenAI“宮鬥大戲”後解到的那樣，Ilya Sutskever是“深度學習之父”Geoffrey Hinton的學生。Geoffrey Hinton今年早些時候從谷歌辭職，就是為能更好地對人工智能安全提出警告，而作為Hinton的學生，Sutskever對AI的擔心很早就存在。
在今年7月，OpenAI正式宣佈成立一個新的研究團隊“超級對齊”（Superalignment）團隊，這恰恰便是由Sutskever領導的一項工作——計劃未來4年投入20%算力，用AI監督AI的方式，解決超智能“AI對齊”問題。“AI對齊”的意思是，要求AI系統的目標要和人類的價值觀與利益相一致。
而與Sutskever存有類似觀點的，還有最初投票驅逐奧特曼的另兩位董事——Tasha McCauley和Helen Toner。
Tasha McCauley是一位技術高管，也是有效利他主義慈善機構——有效風險投資公司（Effective Ventures）的董事會成員，而Helen Toner則是喬治城大學安全與新興技術中心的高管，該中心得到一個致力於有效利他主義事業的慈善機構的支持。熟悉內情的人士說，他們在董事會中占到推翻奧特曼所需四票中的三票。
OpenAI周三宣佈，奧特曼將重新擔任該公司首席執行官，而上述三人——Ilya Sutskever、Tasha McCauley和Helen Toner，則均已不在最新的董事會成員名單之上。
可以說，有效利他主義陣營雖然在這場“宮鬥大戲”的前半段，閃電般地驅逐奧特曼，但最終仍在這場博弈中“一敗塗地”。然而，眼下發生在OpenAI身上的一切，就真的已經是這場故事的最終大結局嗎？
顯然，未必！
理念之爭料將伴隨AI發展
事實上，從2014年左右開始，有效利他主義者就已經開始意識到先進人工智能系統存在導致人類滅絕的風險——這被他們視作一種與氣候危機程度相當的危險。這一啟示恰逢瑞典哲學傢尼克·博斯特羅姆出版《超級智能》一書，該書將“回形針”作為人工智能危險的象征。
這個設想的概念很簡單，但卻又很可怕——如果一臺機器的唯一目標就是最大化的量產回形針，那它有可能會發明些匪夷所思的技術，隻為把宇宙中能用的資源都轉化成回形針，最終毀滅人類。
去年秋天的一天，數千個OpenAI徽標形狀的回形針，被寄到該公司位於舊金山的辦公室。似乎沒有人知道他們來自哪裡，但每個人都知道他們的含義……
這個惡作劇據說是由OpenAI同城競爭對手Anthropic的一名員工幹的，該公司本身就是由一群OpenAI出走的前員工創建，單飛的原因據說也是基於人工智能安全問題的分歧。
而很有意思的是，在Ilya Sutskever等人上周末最初逼走奧特曼後，第一時間爆出的消息——居然便是想要讓OpenAI和Anthropic合並。
在許多並非有效利他主義的信奉者眼中，他們的思想似乎很難被認同。風險投資傢、OpenAI投資人Vinod Khosla在《The Information》的一篇評論文章中就寫道：“OpenAI董事會成員對‘有效利他主義’的信仰及其錯誤應用，可能會阻礙世界通往人工智能的巨大利益之路。”
奧特曼今年春天在全球巡回演講時，雖然警告人工智能可能造成嚴重危害，但他同樣認為有效利他主義是一種“漏洞百出的運動”，表現出“非常奇怪的突發行為”。
風險投資公司Andreessen Horowitz的聯合創始人Marc Andreessen和初創企業孵化器Y Combinator的首席執行官Garry Tan也對這一運動提出批評。Tan稱這是一種沒有實質意義的“美德信號哲學”，應予以摒棄，以解決真正的問題，創造人類的富足。
普林斯頓大學一個研究該運動的團隊研究員Shazeda Ahmed則指出，有效利他主義者對人工智能將毀滅人類的迫切恐懼，“遮蔽他們接受對該文化外部批評的能力。這對任何試圖解決任何棘手問題的群體來說都不是好事。”
不過，人們如今顯然將無法忽視有效利他主義在矽谷乃至AI領域的影響力。這場運動的支持者包括Facebook的聯合創始人Dustin Moskovitz和Skype聯合創始人Jann Tallinn，他們已承諾為有效利他主義研究提供數十億美元。在去年FTX爆雷之前，FTX創始人Sam Bankman-Fried也曾認捐數十億美元。
最後，還有一個舉足輕重的名字顯然更為不容人們忽視——特斯拉CEO馬斯克。
馬斯克曾表示，有效利他主義運動的創始人、英國哲學教授威廉·麥克阿斯基爾（William MacAskill）“與我的哲學非常吻合”。而在過去一年，馬斯克已多次表達對AI可能毀滅人類的擔憂。