與奧本海默同一天生日,作為OpenAI前CEO,Altman認為他知道我們的未來,但他在科技界得到的恨意似乎與愛意等同。關於他,我們還需要知道什麼?OpenAI官網在美股收盤前突然發佈公告,宣佈領導層換屆,其創始人兼CEOSamAltman被“掃地出門”,這對於整個科技界來說都是個“大地震”,各種關於Altman為何會被罷免的傳聞滿天飛。
OpenAI在聲明中“措辭謹慎”,表示這一決定由董事會作出,經過深思熟慮和審查程序後,並得出結論:Altman在與董事會的溝通中不坦誠,阻礙他履行職責的能力。董事會不再相信他繼續領導OpenAI的能力。”
此後,關於Altman的傳言甚囂塵上,包括私生活(兄妹關系)、微軟背後操縱、以及新版本GPT可能存在的安全問題,但似乎沒有能得出結論。
華爾街見聞找到一篇今年9月發表於紐約科技博客《Intelligencer》的文章,作者為Elizabeth Wei,作者花費很多時間采訪Sam Altman本人,包括目前備受關註的妹妹Annie以及Altman的親近友人,文章從Sam Altman的傢庭生活、個人風格、科技價值觀、創業歷程等多個側面,為我們帶來一個更加完整的Sam Altman。
在傢庭生活中,他獲得最多的愛與自信,他的情感表達能力很弱,他與親屬的關系一般,尤其是與妹妹的關系最為惡劣。
在工作中,他堅信自己的價值觀,被稱為“technology brother”,他知道GPT有可能會為人類帶來一些不好的結果,但他仍然會選擇發佈產品,他認為自己是尼采式的超人。
在科技圈內,他有自己的粉絲,但同時也得罪非白男的創業者與從業者,他們不滿但不敢公開表達。
而在作者Elizabeth Wei的視角中,Sam Altman迷人、真誠、冷靜、睿智,但同時具有和馬斯克相似的野心——這一點與矽谷的另一位創業者紮克伯格十分迥異。他時常嘗試扮演一個好人,而這與他的野心似乎不符。一條最清晰、最簡單的評價是:一個偽裝成好人的帝國主義者。
不過Sam Altman並不太在意自己的公眾形象,他認為那些“隻是與我有一些相關”,但這不妨礙他不斷將自己與奧本海默做類比。
華爾街見聞對該文的全文翻譯如下,僅供參考:
一次尷尬的座談
去年春天,38 歲的 OpenAI 首席執行官薩姆·Altman (Sam Altman) 與矽谷最受喜愛的佛教僧人傑克·康菲爾德 (Jack Kornfield) 進行一次座談。
對話發生在在舊金山耶爾巴佈埃納藝術中心舉行的一場低風險活動 Wisdom 2.0 上,該論壇致力於融合智慧和“我們這個時代的偉大技術”。兩人坐在黑色曼陀羅背景的舞臺上一張巨大的白色軟墊椅子上,就連主持人似乎也對Altman在這個活動上的出現感到困惑。
“是什麼風把你吹到這裡來的?”他問。
Altman說。“我絕對對這個話題感興趣”——官方說法是正念和人工智能。“但是,啊,見到傑克是我一生中最大的樂趣之一。我很高興能和傑克一起討論任何話題。”
直到 78 歲的康菲爾德發表介紹性講話時,議程才變得清晰起來。他的書籍(包括《明智的心》)已售出超過 100 萬冊。
“我想說的是,Sam在很大程度上是一位仆人式領導。”科恩菲爾德來這裡是為證明Altman性格的卓越性。
他會回答困擾我們很多人的問題:考慮到這個穿著炭灰色切爾西靴、戴著灰色華夫格亨利衫的相對年輕的Altman似乎正在控制人工智能如何進入我們的世界,我們應該對Altman感到有多安全?
科恩菲爾德說他認識Altman好幾年。他們會一起冥想。他們探討這樣一個問題:Altman如何才能“建立價值觀——菩薩誓言,照顧眾生”?同情心和關懷如何“以某種方式被編程?”
在康菲爾德的整個講話中,Altman雙腿不交叉地坐著,雙手交叉放在腿上,他的姿勢令人印象深刻,他的面部表情決心傳達耐心(盡管他的表情也表明耐心不是他的自然狀態)。“我會讓你難堪的,”康菲爾德警告他。然後僧人又對大眾說:“他有一顆清凈的心。”
在座談會的大部分時間裡,Altman在談論要點時遊離不定。他知道人們害怕人工智能,他認為我們應該害怕。因此,他覺得有道義責任出席並回答問題。“不這樣做會超級不合理,”他說。他相信我們需要作為一個物種共同努力,決定人工智能應該做什麼和不應該做什麼。
根據 Altman 自己的評估(從他的許多博客文章、播客和視頻活動中可以看出),我們應該對他作為我們的人工智能領導者感到滿意但不是很滿意。他自認為是一個非常聰明但不是天才的“technology brother”(技術區俚語,類似於“Geeker”一類隻懂技術其他什麼都不懂的人,編者註)。
他說,首先他擁有“絕對是妄想的自信”;其次,他對“長期技術和社會變革的弧線”有著預言般的把握;第三,作為一個猶太人,他既樂觀又期待最壞的結果;第四,他非常擅長評估風險,因為他的大腦不會被其他人的想法所困擾。
這些是他的優勢,但劣勢是:在情緒能力以及人口統計學上他並不太適合他所扮演的角色。
“可能有人更喜歡這個角色,”他在三月份的Lex Fridman播客中承認。“可能有人更有魅力。”他意識到他“與大多數人的生活現實相當脫節”。他也偶爾顯得麻木不仁。例如,像許多科技泡沫中的人一樣,Altman使用“中位人類”這個短語,比如,“對我來說,AGI”——通用人工智能——“等同於你可以雇傭的中位人類同事。”
在耶爾巴佈埃納,主持人追問Altman:他打算如何為他的人工智能分配價值觀?
Altman說,一個想法是聚集“盡可能多的人類”,達成全球共識。你知道:一起決定“哪些是要輸入的價值觀,哪些是系統永遠不應該做的事情的限制”。
觀眾變得安靜。
“另外一件事可能是我希望Jack Kornfield做的,可以直接寫下十頁的內容‘集體價值應該是這樣的,我們將如何讓系統做到這一點。’那會相當不錯。”
觀眾席更加安靜。
Altman並不確定他所領導的革命在歷史的完整性中究竟會被視為技術革命還是社會革命。他相信它會“比標準的技術革命更大”。然而,他也知道,由於他的整個成年生活都在科技創始人周圍度過,“總是很煩別人說‘這一次不同’或‘你知道,我的東西超級酷’。”革命是不可避免的;他對此感到確信。至少,人工智能將顛覆政治(深度偽造已經是2024年總統選舉中的一個主要問題)、勞動力(人工智能已經成為好萊塢作傢罷工的核心)、公民權利、監視、經濟不平等、軍事和教育。Altman的權力以及他將如何運用它,現在是我們所有人的問題。
然而,真正解讀阿爾特曼到底是誰,我們應該信任他多少,以及他在多大程度上整合其他人的關切,即使當他站在舞臺上試圖平息這些關切時,這可能是困難的。阿爾特曼表示他會盡量減緩革命的速度。然而,他告訴在場的人,他相信一切會沒事的,或者可能會沒事。我們——他言語中所帶的皇傢“我們”——應該隻是“決定我們想要什麼,決定我們將執行它,並接受未來會非常不同,可能會更美好。”
這句話也沒有產生好的效果。
“很多緊張的笑聲,”Altman註意到。
然後他揮揮手,聳聳肩。“我可以對你說謊,說‘哦,我們完全可以阻止它。’但我認為這是……”
難以調和的形象矛盾
Altman沒有說完這個想法,所以我們在八月底在舊金山Bryant Street的OpenAI辦公室重新開始對話。
辦公室外面是一個新資本主義者的庭售會:無人駕駛汽車,狗躺在人行道帳篷旁曬太陽,一個衰敗的公共交通系統的巴士車站,售賣著6美元拿鐵的商店。而在辦公室裡,OpenAI是一個低調且有點平淡的科技公司,隻有一句標語:請隨意從小冰箱裡拿一瓶Pellegrino或一張我們的標志貼紙。
面對面時,Altman比人們預期的更加迷人、更加真誠、更加冷靜和滑稽——更貼近於他的本體。他討人喜歡,頭發帶有灰色斑點。他穿著同一件方格短袖襯衫,這件服裝迅速成為他的標志。我是今年夏天第一百億位采訪他的記者,當我們坐在一個隔音的房間裡時,我為讓他再做一次采訪道歉。
他微笑著說:“很高興見到你。”
關於Kornfield:“在那次談話之後,有人對我說,‘你知道嗎,我一開始真的很擔心OpenAI將會在人工智能的價值觀方面做出所有這些決定,而你說服我,你不會做這些決定,’我就像,‘太好。’然後他們說,‘不,現在我更擔心。你將讓世界做這些決定,而我不想要這樣。’”
即使是Altman也覺得他站在那個舞臺上回答有關全球價值觀的問題是有些變態的。“如果我不參與其中,我會想,為什麼這些傢夥可以決定發生在我身上的事情呢?”他在2016年對《紐約客》的Tad Friend說。七年後,經過許多媒體培訓,他的態度有所軟化。“我對OpenAI這樣的項目被認為是一個政府項目的事實非常同情。”
這種新的好人形象可能很難與Altman的權力欲望調和,這是他最明確的特征之一。他的內圈朋友向我描述他是“我認識的最有抱負的人之一,而且仍然保持理智,而我在矽谷一共認識兩萬人。”
然而,Altman采取一種謙遜的方式來解釋他的崛起。“我的意思是,我是一個中西部的猶太人,至少有一個尷尬的童年,用非常禮貌的說法。而我現在正在經營其中之一……”他突然停住。“你知道,最重要的幾十個技術項目之一。我無法想象這會發生在我身上。”
中產階級猶太傢庭走出的自信創業者
Altman在聖路易斯郊區的一個四兄妹傢庭中長大,他是四兄弟姐妹中的長子:三個男孩,Sam、Max和Jack,每兩年年齡相差一次,然後是一個女孩,Annie,比Sam小九歲。
如果你不是在一個中西部中產階級猶太傢庭中長大的——我從自己的經驗中說——很難想象這樣一個傢庭能給兒子灌輸的那種潛在的自信心。
“我父母為我做的最好的事情之一就是不斷(一天多次,我想?)肯定他們對我的愛和信任,認為我可以做任何事情,”Jack Altman曾說。這樣的自信儲備是奇幻的、麻醉的,有著武器級別的威力。它們就像你心臟裡的一個額外的閥門。
關於Sam的通常傳說是,他是一個天才男孩——“在技術奇才世界是一顆嶄露頭角的明星,”據聖路易斯郵報所說。他從3歲開始修理傢庭的錄像機。1993年,為慶祝他8歲的生日,Altman的父母——Connie Gibstine,一位皮膚科醫生,和Jerry Altman,一位房地產經紀人——為他買一臺Mac LC II。Altman將這份禮物描述為“我生活中的一個分水嶺:在我有電腦之前和之後。”
Altman一傢每天晚上都一起吃晚餐。在餐桌周圍,他們會玩“開方根”等遊戲:有人會喊出一個大數字,男孩們會猜測,Annie會拿著計算器檢查誰最接近。他們還玩20個問題來猜出每晚的驚喜甜點。傢庭還玩乒乓球、臺球、桌遊、視頻遊戲和變戲法,每個人都知道誰贏。Sam更喜歡是他贏。Jack回憶起他兄弟的態度:“我必須贏,我掌管一切。”男孩們還一起玩水球。“他可能不同意,但我會說我比他好,”Jack告訴我。“我的意思是,毫無疑問地比他好。”
Sam在高中時出櫃,這甚至讓他的母親感到驚訝,她曾認為Sam“隻是一種不分性別且喜歡技術的人”。正如Altman在2020年的播客中所說,他的私立高中“不是那種你真的會站起來談論同性戀並被允許的地方”。當他17歲時,學校邀請一位演講者來參加全國出櫃日。一群學生反對,“主要是出於宗教原因,但也包括其他原因,比如認為同性戀基本是壞人。”Altman決定給學生做一次演講。他在前一晚幾乎沒睡。他在播客中說,最後的臺詞是“要麼你有容忍開放的社區,要麼你沒有,而你不能挑選。”
2003年,正值矽谷從互聯網泡沫中復蘇之際,Altman進入斯坦福大學。同年,Reid Hoffman共同創辦LinkedIn。2004年,Mark Zuckerberg創辦Facebook。在那一刻,一個郊區猶太傢庭的長子沒有成為投資銀行傢或醫生。他成為一名創業者。
大二時,Altman和他的男朋友Nick Sivo開始致力於Loopt,這是一個用於定位朋友的早期地理跟蹤程序。Paul Graham及其妻子Jessica Livingston等人剛剛在他們的風險公司Y Combinator的一部分創建Summer Founders Program。Altman申請參加,他贏得6000美元的投資機會,並有機會在馬薩諸塞州劍橋度過幾個月,與志同道合的書呆子們在一起。Altman那個夏天工作得如此努力,以至於得壞血病。
然而,即使在Loopt上,他也沒有特別脫穎而出。“哦,又是一個聰明的年輕人!”直到今年1月在OpenAI董事會上,Hoffman才提及當初對年輕Altman的印象。這足以從Sequoia Capital那裡籌集到500萬美元。但Loopt並沒有在用戶中取得成功。2012年,Altman將公司以4340萬美元的價格賣給Green Dot。甚至Altman自己也沒有認為這是一次成功。
“失敗總是令人沮喪的,如果你因為試圖證明某件事而失敗,那是絕對絕對更加令人沮喪的。”Altman告訴我。他“感覺相當不快樂”——但他拿到500萬美元,他用這筆錢和彼得·蒂爾(Peter Thiel)的資金創辦自己的風險基金,Hydrazine Capital。他還休息一年,讀一堆書,旅行,玩視頻遊戲,並且,“就像一個典型的技術小子模因,”他說,“我決定去修道院待一段時間,這改變我的生活。我肯定在很多方面仍然感到焦慮和緊張,但我的感覺是我感到非常輕松、快樂和平靜。”
2014年,格雷厄姆選擇Altman接任Y Combinator的總裁,當時該孵化器已經幫助推動Airbnb和Stripe的發展。格雷厄姆在2009年曾將Altman描述為“過去30年中最有趣的五位初創企業創始人之一”,後來又說他是“比爾·蓋茨在創辦微軟時的樣子……天生就是一位強大、自信的人。”
Altman擔任YC總裁期間,該孵化器每年收到約4萬份新創企業的申請,其中有1,000份獲得現場推介的機會,最終有幾百份最終獲得YC的資助:這筆資助通常是12.5萬美元,以及指導和網絡支持(其中包括每周晚餐和集體辦公時間),作為交換,創業公司將7%的股份交給YC。從VC的角度來看(一些VC如一位所說的那樣,花很多時間不工作,而是“在遊艇上打電話”),運營YC就像“夏令營輔導員”。
在他的任期中,Altman大部分時間都和兄弟們住在舊金山的兩棟房子中的其中一棟,一棟位於SoMa,另一棟位於Mission。他傳播一種雄心勃勃、封閉、規模的福音。他相信從你已經認識的人的網絡中招聘的價值。他相信不要太在意別人的想法。“一個大秘密是你可以在很大程度上隨心所欲地改變這個世界——大多數人甚至不嘗試,”他在他的博客上寫道。“最成功的創始人並不是著手創辦公司的。他們的使命是創造一些更接近於宗教的東西,而在某個時候,創辦一傢公司是最容易的方法。”他認為,更大的風險是將自己困在一個小點子裡,沒有思考得足夠大。
Altman的生活過得相當不錯,他變得極其富有。他投資於男孩夢想的產品,比如研發超音速飛機。他在大瑟爾購買一座預備住宅,並用槍支和黃金裝備起來。他在他的邁凱輪(McLaren)上參加比賽。
他還接受科技中的有效利他主義——功利主義哲學的一個分支。有效利他主義通過幾乎任何手段來賺取大量財富,其信奉者理論上知道最好如何使用它。這一意識形態將未來置於現在之上,並設想一個類似啟示錄的奇點:到那時人類和機器將融為一體。
2015年,基於對這個哲學框架的深度認同,Altman與埃隆·馬斯克和其他四人共同創辦OpenAI,作為一個非營利組織——其他創始人包括Ilya Sutskever、Greg Brockman、John Schulman和Wojciech Zaremba。這個501(c)(3)的使命是創建“一臺可以在各個方面像人類一樣思考並將其最大程度地用於造福人類的計算機”。其理念是構建良好的人工智能,並在壞人構建壞種類之前占據主導地位。OpenAI承諾按照EA的價值觀公開其研究。如果任何人 —— 或者任何他們認為“價值一致”和“安全意識強”的人 —— 在OpenAI之前準備實現AGI,他們將協助該項目而不是競爭。
在過去的幾年裡,Altman保持他在YC總裁的工作。他每天發送大量的短信和電子郵件給創始人們,他追蹤人們的回復速度,因為正如他在博客上寫的那樣,他相信回復時間是“出色和平庸創始人之間最顯著的區別之一”。2017年,他考慮競選加利福尼亞州州長。他在一次晚宴上“抱怨政治和州政府,有人說,‘你應該停止抱怨,為此做點什麼,’”他告訴我。“然後我說,‘好吧。’”他發表一個名為United Slate的平臺,概述三個核心原則:科技帶來繁榮,經濟公平和個人自由。Altman在幾周後放棄他的競選。
2018年初,馬斯克試圖控制OpenAI,聲稱該組織在技術上落後於Google。到2月,馬斯克退出,將Altman留任負責。
幾個月後,2018年5月底,Altman的父親在聖路易斯Creve Coeur湖上劃船時突發心臟病,享年67歲。他在醫院不久後去世。在葬禮上,Annie告訴我,Sam給予每個Altman子女五分鐘發言的時間,她利用這個時間來給傢庭成員的情感表達能力排名,最終她決定最後兩名是Sam和母親。
Moore’s Law for Everything
2021年3月,Altman發表一篇名為“摩爾定律適用於一切”( Moore’s Law for Everything)的文章。文章開篇:“我在OpenAI的工作讓我每天都意識到社會經濟變革的巨大程度,這比大多數人相信的要來得更早……如果公共政策不能相應調整,大多數人最終會變得比今天更糟。”
摩爾定律,適用於微芯片,規定芯片上的晶體管數量大約每兩年翻一番,而價格減半。由Altman提出的“Moore’s Law for Everything”假設“在數十年內,一切——住房、教育、食品、服裝等等——都會每兩年減半”。
在Altman寫下這篇文章時,他已經離開YC,全職專註於OpenAI。在他的領導下,公司在2019年春季成立一個營利子公司。構建人工智能被證明成本高昂,Altman需要資金,到夏天,他從微軟籌集到10億美元。一些員工因為遠離“對人類最大的利益”而感到不滿而辭職。然而,這一變化卻意外地沒有引起太多騷動。
“像千億富翁一樣的馬斯克,會(因為變成營利性公司而)說山姆不好嗎?”Altman核心圈子的一位朋友說。雖然Altman拒絕持有該公司的股權,最初將投資者的利潤上限設定為100倍。但許多人認為這是一種形式上的操作,畢竟10億乘以100就是很多錢。“如果伊麗莎白·沃倫(Elizabeth Warren)來責怪Altman將OpenAI變成盈利性公司,所有的科技界人士都會覺得她在無理取鬧,叫她“滾回傢去”。
Altman繼續參加賽車活動(他最喜歡的賽車之一是雷克薩斯LFA,該車於2013年停產,根據HotCars,“至少需要95萬美元”)。在大流行初期,他戴著以色列國防軍的防毒面具。他在納帕購置一個牧場(Altman是素食主義者,但他的搭檔,來自墨爾本的計算機程序員Oliver Mulherin,“喜歡牛”,Altman說)。他購買舊金山俄羅斯山的價值2700萬美元的房子。他交一些看起來很酷炫的朋友。戴安·馮·芙斯滕伯格在2021年形容他為“我最近的、非常非常親密的朋友之一。遇到Sam有點像遇到愛因斯坦。”
與此同時,隨著OpenAI開始向企業出售其GPT軟件的訪問權,Altman孕育一系列投資項目,為一個由人工智能改變的世界做準備。
他投資3.75億美元在Helion Energy,一傢投機性的核聚變公司。如果Helion成功——這是一個很大的賭註——Altman希望控制世界上最便宜的能源之一。他投資1.8億美元在Retro Biosciences,目標是將人類壽命延長十年。Altman還構思並籌集1.15億美元用於Worldcoin,該項目通過讓人們註視一個被稱為Orb的球來掃描全球的虹膜。然後將每個虹膜印刷與一個加密錢包關聯起來,Worldcoin將貨幣存入其中。這將解決兩個由人工智能產生的問題:在人工智能進一步模糊人類與非人類之間的界限時,區分人類與非人類是必要的,以及一旦像OpenAI這樣的公司吸走大部分資金,重新分配一些資本。
這不是一個像紮克伯格這樣野心水平的人所能選擇的項目組合。與Altman相比,紮克伯格顯得有些古怪,正如科技作傢兼播客賈森·薩多夫斯基所說,他滿足於“建立一個可以統治的城邦”。
Altman的投資選擇更像馬斯克,有野心、采取“帝國主義方式”。薩多夫斯基說:“他確實認為自己是世界一流的超人,是真正尼采式的超人。”“他會立即創造出毀滅我們的東西,並將我們從中拯救出來。”
然後,在2022年11月30日,OpenAI發佈ChatGPT。這款軟件在兩個月內吸引1億用戶,成為科技史上最成功的產品推出。兩周前,Meta發佈Galactica,但公司在三天後將其下架,因為機器人無法區分真實和虛假。ChatGPT也會撒謊,也會產生幻覺。但Altman仍然發佈,並辯稱這是一種美德,世界需要逐漸適應這一點,我們需要共同做出決策。
2023年5月,Altman開始一場22國、25城的世界巡回演出。這起初被認為是與ChatGPT用戶見面的機會最終變成一場類似社交界的首次亮相派對。Altman時常身著西裝,但有時會穿灰色的henley衫,他向外交官們展示自己是不可避免的新科技超級大國。他會晤英國首相裡希·蘇納克、法國總統埃馬紐埃爾·馬克龍、西班牙總理佩德羅·桑切斯、德國總理奧拉夫·肖爾茨、印度總理納倫德拉·莫迪、韓國總統尹錫悅和以色列總統艾薩克·赫爾佐格。他還與歐洲委員會主席烏蘇拉·馮·德·萊恩合影。照片中,她顯得優雅而不為所動,而他看起來像沃爾多在哪裡?——他的手機可以在褲子的前口袋裡看到,他的綠色眼睛因疲勞和皮質醇而顯得凸出。
然後,Altman回到傢,似乎不僅整理他的衣櫥,還整理他的心靈。從6月底到8月中旬,他發很多推文。如果你希望解他,這是個寶藏。
今晚是芭比還是奧本海默?
Altman發佈一項投票。芭比以17%對83%的比例輸掉。
好吧,選擇奧本海默。
第二天早上,Altman回來表達他的失望。
我希望奧本海默的電影能激發一代孩子成為物理學傢,但它在這方面確實沒有達到預期。
讓我們來制作這部電影!
(我認為社交網絡成功地為初創創始人做到這一點。)
Altman作品的仔細讀者可能會感到困惑。多年來,Altman一直在將自己與這位制造原子彈的人相提並論。他曾經告訴記者,他和奧本海默同一天生日。他曾向《紐約時報》的卡德·梅茨轉述過奧本海默的話:“技術之所以存在,是因為有可能。”因此,他不可能對克裡斯托弗·諾蘭在他的傳記片中沒有制作一部助推作品感到驚訝。奧本海默在他的生命後半段為自己在創造原子彈中的角色而感到羞愧和懊悔。“現在我成為死亡,世界的毀滅者”——這是《恒河悟辯書》中最著名的一句話,也是奧本海默告訴NBC News在三一試驗中他的心中所想的。 (這也出現在電影中,兩次。)
在他的世界巡回演出期間,Altman一直把自己與奧本海默聯系起來,他討論(以非具體的方式)人工智能所帶來的存在風險,並主張(非常具體地)建立一個類似國際原子能機構的監管機構。聯合國在1957年批準IAEA,這個機構的任務是為國際和平與繁榮努力——這聽起來對於一個輕松聆聽的人來說可能是一個很好的類比。這讓專傢們極度惱火。
其中一個批評是關於它的政治憤世嫉俗性。“你說,‘對我進行監管,’然後你說,‘這是一個非常復雜和專業化的主題,所以我們需要一個復雜和專業化的機構來做這件事,’心裡很清楚這個機構永遠都不會被創立,”Sadowski說。“或者如果確實有東西被創立,那也沒關系,因為你已經建立它的基因。”
另一個問題是模糊性。正如專門從事評估和驗證無人機和大型核電廠安全協議的工程師Heidy Khlaaf向我解釋的那樣,為減輕技術帶來的風險,你需要準確地定義這項技術能夠做什麼,它如何對社會產生幫助和傷害——而當Altman說人工智能可能會毀滅世界時,他隻是堅持一般性。(也許有人會使用人工智能發明超級病毒;也許有人會使用人工智能發射核彈;也許人工智能本身會反過來對人類產生威脅——對於每種情況的解決方案都不是很清楚。)此外,Khlaaf認為我們不需要新的機構。人工智能應該在其用例中受到監管,就像其他技術一樣。使用受版權保護的材料構建的人工智能應該受到版權法的監管。在航空領域使用的人工智能應該在該背景下受到監管。最後,如果Altman真的認真對待嚴格的安全協議,他將會更認真地對待他認為是較小危害的問題。
“如果你甚至不能阻止系統對黑人進行歧視”——這種被稱為算法偏見的現象影響從職位候選人如何排序到哪些面孔被標記為最有吸引力的——“你怎麼能阻止它毀滅人類?” Khlaaf問道。在工程系統中,危害是相互疊加的。“一個小的軟件漏洞可以摧毀紐約的電網。”訓練有素的工程師都知道這一點。“每一傢公司,每一傢人工智能領域的佼佼者都擁有資源和基礎工程理解的能力,以找到如何在這些系統中減少危害的方法。選擇不這樣做是一種選擇。”
與Altman的奧本海默-芭比民調同一天,他還發佈:
一切‘創造性’都是過去發生的事情的混合,再加上ε和反饋環路質量的乘積以及迭代次數。
人們認為他們應該最大化ε,但訣竅是最大化其他兩者。
在整個夏季和秋季,OpenAI因據稱在盜版的、受版權保護的作品充斥的數據集上訓練其模型並從中獲利而面臨越來越多的壓力。在得知他的書被用於未經許可地教授ChatGPT後,邁克爾·夏邦組織一場集體訴訟。聯邦貿易委員會對公司涉嫌違反消費者保護法的廣泛調查。現在Altman主張創造力實際上並不存在。不管引人註目的作傢或憤怒的插畫傢對於他們的獨特性或價值有何看法,他們隻是在重新混合舊思想,很像OpenAI的產品。
在措辭方面,數學術語賦予一層確定性的外表。2015年,諾貝爾經濟學獎獲得者保羅·羅默創造一個術語“Mathiness”,它描述的是使用數學語言不是為澄清而是為誤導。“數學語言之美在於其以明顯簡單的方式傳達有關世界的真理——E = MC2,” Bentley大學數學與數據科學教授Noah Giansiracusa告訴我。“我一遍又一遍地讀他的推文,仍然不太清楚如何解析它或他究竟想要表達什麼。”
Giansiracusa將Altman的話轉化為符號。“使用C表示創造性事物,使用R表示對過去事物的混合,使用Q表示反饋環路的質量,使用N表示迭代次數,他是在說C = R + εQN還是C = (R + ε)QN?” Giansiracusa說,Altman的措辭並未明確操作的順序。“‘和N’ — 和迭代次數 — 是否表示除乘法之外的其他含義?還是…”
批評者的恨意——Altman鞏固白男的地位
Altman吸引一些批評者。“就像是一部關於一個被送到成年人身體的孩子然後不得不假裝希望沒有人註意到的90年代電影,你知道嗎?”《Palo Alto》的作者馬爾科姆·哈裡斯告訴我。“就像他是那個因為手臂骨折愈合不當而能投出一百萬英裡遠的快球的孩子,現在他是新秀年度和大聯盟投手,但他也隻有12歲,不知道如何做任何事情。”
“他很聰明,對於一個內陸州的社區大學來說算是聰明,”一位灣區風險投資傢說。“你看《繼承戰爭》嗎?你可以把他比作湯姆。”
無疑,其中一些是嫉妒。一些是對Altman中西部式的友好的反應。但主要是源於對科技文化重新紮根並鞏固白人男性俱樂部主義的深刻憤怒。“你知道,我們” ——女性——“曾經在房間裡待一會兒,但當我們開始真正發言時,他們說,‘滾開,’” Signal總裁、前Google告密者梅瑞迪斯·惠特克告訴我。
現在唯一的選擇就是從外部施加壓力。“我希望他受到壓力。就像站在那裡看著別人的眼睛說這些廢話,”惠特克繼續說。“我們討論的是對數百萬、億萬人的創造性產出提出所有權主張,然後利用它來創建直接破壞他們生計的系統。”我們真的想把如此有意義的藝術表達變成“從某個微軟產品中導出的衍生內容,由肯尼亞的不穩定工人根據他們自己從事的工作所遭受的創傷後應激障礙來校準,以適應禮貌的自由對話的范圍內嗎?”
當然,許多人樂於回到保守的價值觀,理由是這對業務有利,感覺像是勝利。“我確實認為有這樣一種語氣,就像是,‘我告訴過你’”——這個“廢話”指的是多元化、平等和包容——“‘而且,看看那讓你到哪裡去。’”科技公司裁員,公司破產。這並不是DEI的結果,但這是一個方便的借口。當前的態度是:喚醒文化已經達到巔峰。“你真的不需要再假裝在乎。”
一位黑人企業傢——像我為這篇文章采訪的科技行業幾乎所有人一樣,出於對Altman權力的恐懼,他們不願透露姓名——告訴我,他們花15年時間試圖打入白人男性的科技俱樂部。他們上所有合適的學校,加入所有合適的機構。他們讓自己變得光鮮、成功和富有。“我不會希望這種事發生在任何人身上,”他們告訴我。“埃隆和彼得以及他們在那個小圈子裡和他們一起喝年輕人的血或者做些什麼——當真的沒有必要、沒有壓力時,誰會迫使他們切下一小片並分享呢?這個系統對那些它的目標是為其服務的人來說運作得很好。”
我們剩下的人將被目前的態度對待,如企業傢所說的,“明確而持久的不屑”。
在Sam的公共生活中消失的妹妹
傢庭會重復社會的運作機制,權力差異會造成傷害,並且往往會引發沖突。
這一點在Altman傢也是如此。傑瑞·阿爾特曼(Jerry Altman)2018年的訃告將他描述為:“康妮·吉佈斯廷(Connie Gibstine)的丈夫;薩姆·阿爾特曼(Sam Altman)、馬克斯·阿爾特曼(Max Altman)、傑克·阿爾特曼(Jack Altman)和安妮·阿爾特曼的親父親和嶽父……”
Annie·Altman?閱讀Altman的博客、他的推文、他的宣言《創業手冊》以及關於他的數百篇文章的讀者們可能熟悉傑克和馬克斯。他們在各個地方都有出現,尤其是在《福佈斯》上一篇引人註目的照片中,這張照片位於他們聯合基金“Apollo”宣佈的附帶簡介的頂部。他們還在《紐約客》雜志的Tad Friend於2016年的Altman專訪中亮相,以及在很多友好的公開談話中都有他們的身影。
@jaltma:當我看到文章稱Sam是科技哥時,我感到很沮喪。他是technology brother。
@maxaltman:他就是technology,brother。
@sama:愛你,(tech)bros。
安妮在Sam的公共生活中不存在。她永遠不會加入俱樂部。她永遠不會成為超人。她一直是一個感受世界痛苦的人。5歲時,她開始在半夜醒來,需要洗個澡來平復她的焦慮。6歲時,她考慮過自殺,盡管她不知道這個詞。
她經常在電梯和雜貨店向人們介紹自己:“我是安妮·弗朗西絲·Altman。你叫什麼名字?”(她告訴我,關於Sam,她說:“他可能也是自閉癥者,但更多的是計算機數學的方式。我更關心人類、人道主義和正義。”)像她的大哥一樣,她非常聰明,而且像她的大哥一樣,她提前離開大學,盡管不是因為她的創業公司得到Sequoia的資助。她完成所有塔夫茨大學的學分,而且她非常沮喪。她想住在一個對她來說感覺更好的地方。她想創作藝術。她覺得她的生存取決於此。她在七個學期後畢業。
當我今年夏天在毛伊島拜訪安妮時,她告訴我一些對於那些在商業傢庭中是emo-artsy(很emo但又很有藝術氣質的樣子或風格)人物的人,或者那些因傢庭成員似乎不理解而深感受傷的人來說會引起共鳴的故事。
安妮的長發編成辮子,聲音低沉、沉著而緊張,她向我講述她在2018年訪問Sam在舊金山的故事。他邀請一些朋友,其中一個人請安妮唱一首她寫的歌。她找到她的尤克裡裡,並開始唱歌。“演唱進行到一半的時候,Sam無言地站起身走上樓去他的房間,”她在毛伊島北岸的帕伊亞的一傢冰沙店告訴我。“我想,我是否繼續彈奏?他還好嗎?剛剛發生什麼?”第二天,她告訴他她很難過,並問他為什麼離開。“他說一些類似於,‘我胃疼’或者‘我喝醉’或者‘我太high,需要冷靜一下’的話,而我隻會想,‘真的嗎?就在那一剎那?你不能再等90秒嗎?’”
在同一年,Jerry·Altman去世。他一直有心臟問題,還有很大的壓力,部分原因是安妮告訴我,他開車去堪薩斯城照顧他的房地產生意。Altman的父母已經分居。Jerry一直在工作,因為他需要錢。在他去世後,安妮崩潰。她的身體崩潰。她的心理健康崩潰。她一直是傢庭的痛苦之海。她吸收比她能承受的更多。
Sam曾提議幫助她一段時間,然後停止。在他們的電子郵件和短信往來中,他的愛意和影響力是顯而易見的。他想鼓勵安妮站起來。他想鼓勵她重新開始使用她曾因不喜歡其帶來的感覺而在精神科醫生的治療下停止使用的Zoloft。
在她的各種藝術項目中,安妮制作一個名為“All Humans Are Human”的播客。在他們父親去世後的第一個感恩節,所有的兄弟都同意與她一起錄制一集。安妮希望在節目中談論投射的心理現象:我們將自己投射到別人身上。兄弟們把談話引導到反饋的概念上——具體來說,如何在工作中提供反饋。在她將節目發佈到網上後,安妮希望她的兄弟,特別是Sam,會分享它。他曾為他們的兄弟事業做出過貢獻。傑克的公司Lattice曾經參與過Y Combinator。
“我覺得,‘你可以發個推文鏈接。那會有所幫助的。你不想分享你妹妹的播客嗎,你還親自參與?’”但他沒有。“Sam說這與他們的業務不符。”
在Jerry·Altman去世的第一個周年紀念日上,安妮在她的頸部紋希伯來文的“sch’ma” —— 意為“傾聽”。她辭去在一傢配藥店的工作,因為她的跟腱受傷不愈合,她已經第三次戴著行走靴度過七年。她向Sam和他們的母親請求財務幫助。他們拒絕。“那正是我第一次決定登陸約會網站,”安妮告訴我。“我隻是感到非常的失落,非常絕望,非常混亂和悲傷。”Sam曾是她最喜歡的兄弟。他在她入睡時給她讀書。他在高中項目中為她拍攝照片。她感到如此被理解、愛戴和驕傲。“我就在想,為什麼?為什麼這些人在不會對他們自己造成真正損失的情況下不幫助我呢?”
在2020年5月,她搬到夏威夷的大島。在她搬到一個農場進行生活與工作交換的不久之後的一天,她收到一封來自Sam的電子郵件,要求她的地址。他想給她寄一顆由他們父親的一些骨灰制成的紀念鉆石。“想象他把一顆由我爸爸的骨灰制成的鉆石寄到郵箱,而那裡是那種有很多為所有這些農場準備的開放箱子的鄉村地方…… 這是如此沉重、悲傷和憤怒,但同時也是如此滑稽和荒謬。感覺如此脫節。完全沒有關心。” 她的父親從未要求成為一顆鉆石。安妮的心理健康很脆弱。她擔心購物的錢。與一個認為金錢既是一切又是那麼微不足道的人交往很困難。“就像,要麼你沒有意識到,要麼你不在乎這裡整個情況,”她說。 她所說的“整個情況”指的是她的生活。“你願意花5000美元 — 每個 — 來制作這個是你的主意,而不是爸爸的,你想把它寄給我,而不是給我寄300美元,這樣我就能有食品保障。是什麼?”
現在這兩個人已經疏遠。Sam提出要給安妮買一棟房子。她不想被控制。在過去的三年裡,她通過“線下和虛擬”性工作來維持自己,她告訴我。她在OnlyFans上發佈色情內容。她在Instagram Stories上發佈有關相互援助的信息,試圖將有錢的人與需要財務幫助的人聯系起來。
她和Altman是黑鏡中的反面。有人告訴我,Altman開玩笑說他要成為世界上第一個萬億富翁。(Altman對此提出異議,並要求我包括這樣一種說法:“我不想成為世界上第一個萬億富翁。”)他致力於通過竊取的數據和一串串的GPU來構建軟件,以復制 —— 並超越 —— 人類智能。
安妮在過去的一年中搬20多次傢。在九月中旬打電話給我時,她的住房情況再次不穩定。她的銀行賬戶裡隻有1000美元。
自2020年以來,她一直在經歷閃回。她知道每個人都會把他們生活的點滴整理成故事,以理解他們的世界。
在安妮講述她的人生故事時,她的兄弟、母親和Sam從她父親留給她的錢中拿走。
當安妮講述她的人生故事時,她小時候,Sam給她讀睡前故事時,她感到特別和受到愛。現在這些記憶感覺像是虐待。
Altman傢庭希望世界知道:“我們愛安妮,將繼續盡最大努力支持和保護她,就像任何一個傢庭一樣。”
安妮正在制作一部名為《HumAnnie》的獨角戲,講述沒有人真正知道如何成為人類。我們都是在靠感覺走。
偽裝成好人的帝國主義者
2023年6月22日,Altman穿上燕尾服,與他的伴侶奧利弗·穆赫林一起參加白宮的一次晚宴。
他看起來像是被困在90年代時光旅行電影中的一個角色,身體太小、太年輕,無法承載所有被賦予的權力。但他大多數時候都做得不錯。他的燕尾服看起來很時尚,與矽谷另一位著名的Sam,Sam Bankman-Fried形成鮮明的對比,後者的邋遢風格現在似乎是道義上的懶惰證據。自從Altman接任OpenAI首席執行官以來,該公司不僅稀釋其非營利性質。它不再很開放,不再發佈其訓練數據和源代碼,也不再使其技術成為其他人分析和構建的基礎。不再為“對人類的最大利益而努力工作”。但任何人能做什麼呢?在他的世界巡回演講中,Altman在慕尼黑向滿座的觀眾詢問是否希望OpenAI在發佈其下一代LLM(大型語言模型)GPT-5時開源。
人群一致回應為是。
Altman說:“哇,我們肯定不會這樣做,但這很有趣。”
在八月的時候,在他的辦公室裡,Altman仍然在強調他的談話要點。我問他在過去的24小時裡做什麼。“昨天我正在做的事情之一是:我們試圖弄清楚是否能夠使人工智能與一組人類價值觀保持一致。從技術上講,我們在這方面取得良好的進展。現在有一個更困難的問題:好的,是哪些價值觀呢?”
他還與舊金山市長共進午餐,試圖精簡他的98頁待辦事項清單,並進行力量訓練(盡管他有些不情願地說:“我已經放棄試圖變得非常結實”)。他歡迎新員工。他和他的兄弟以及奧利一起吃晚飯。他在晚上8:45上床睡覺。
這真是令人困擾,一個偽裝成好人的帝國主義者讓人失衡。Altman告訴我,他最珍貴的財產之一是他祖父一生都攜帶的門楣。他和奧利計劃很快要孩子;他喜歡大傢庭。有時他笑得很厲害,不得不躺在地板上呼吸。他“將努力找到將人們的意願融入到我們建立的東西中的方法”。他知道“AI並不是一個隻有好處的幹凈故事”,“在這裡會失去一些東西”,而且“喪失厭惡是非常能夠理解和自然的。人們不想聽一個他們是犧牲品的故事”。
他說他的公共形象“隻是與我有一些相關”。