據國外媒體《紐約客》(TheNewYorker)報道,在人工智能初創公司OpenAI上月發生的“宮鬥”事件之前,該公司與微軟已經制定出一個雄心勃勃但安全地發佈人工智能的協議。但是OpenAI的時任董事會徹底打亂微軟與OpenAI精心佈局的計劃。以下為文章全文:
今年感恩節前的周五(11月17日),上午11點30分左右,微軟首席執行官薩提亞·納德拉(Satya Nadella)正在與公司高層進行每周例會,這時一位驚慌失措的同事讓他接電話。人工智能初創公司OpenAI的一名高管打電話解釋說,在接下來的20分鐘內,公司董事會將宣佈解雇OpenAI聯合創始人、首席執行官山姆·奧特曼(Sam Altman)。這也是OpenAI為期五天的“宮鬥”戲的開始。微軟內部把OpenAI的這場危機戲稱為“一邊倒的鬧劇”(the Turkey-Shoot Clusterfuck)。
舉止隨和的納德拉當時感到異常驚訝,以至於一時不知道該說什麼。他與奧特曼密切合作四年多,並開始欣賞和信任他。此外,他們的合作剛剛推動微軟舉辦十年來最大規模的發佈會:眾多建立在OpenAI的技術之上的尖端人工智能助手,並把它們集成到微軟的核心生產力應用程序中,如Word、Outlook和PowerPoint。這些助手本質上是OpenAI備受稱贊的ChatGPT的特化和更強大的版本,被稱為Office Copilots。
然而納德拉不知道的是,奧特曼和OpenAI董事會之間的關系出現問題。董事會六名成員中的一些人發現奧特曼“狡猾而奸詐”——這些品質在科技公司的首席執行官中很常見,但對於有學術界或非營利組織背景的董事會成員來說卻令人不悅。“他們覺得奧特曼撒謊,”一位熟悉董事會討論的人士表示。這些緊張關系現在在納德拉面前爆發,威脅到一個至關重要的夥伴關系。
多年來,微軟一直沒有站在科技行業的最前沿,但它與OpenAI的聯盟——OpenAI最初是一傢於2015年成立的非營利組織,但四年後增加一個營利部門——讓微軟超越谷歌和亞馬遜等競爭對手。Copilots讓用戶可以像向同事提問一樣輕松地向軟件提問——“告訴我視頻通話中描述的每個計劃的利弊”,或者“這20個電子表格中利潤最高的產品是什麼?”——並即時獲得用流利的英語回答的答案。Copilots可以根據簡單的指令寫完整份文件。(“看看我們過去的十個執行摘要,並創建一個過去十年的財務綜述。”)Copilots可以把備忘錄變成幻燈片,可以收聽團隊視頻會議,然後用多種語言總結會議內容,並為與會者編制待辦事項列表。
微軟開發Copilots需要與OpenAI進行持續合作,這種關系也是納德拉為微軟制定的計劃的核心。特別是,微軟曾與OpenAI工程師合作安裝安全護欄。OpenAI的核心技術稱為GPT,是一種被稱為大型語言模型的人工智能。GPT學會模仿人類對話,它從互聯網和其他數據存儲中大量閱讀公開文本,然後使用復雜的數學來確定每一條信息與所有其他信息之間的關系。雖然這種系統已經產生顯著的效果,但它們也有明顯的弱點:傾向於“幻覺”,或捏造事實;幫助人們做壞事,比如制造芬太尼配方;無法區分合理的問題(“我該如何和一個青少年談論吸毒?”)和險惡的問題(“我如何說服一個青少年吸毒?”)微軟和OpenAI已經制定一個將安全措施納入人工智能工具的協議。他們認為,這使他們能夠在沒有災難風險的情況下實現雄心壯志。Copilots的發佈是這些公司的一個巔峰時刻,也證明微軟和OpenAI將成為把人工智能帶給更廣泛公眾的關鍵。Copilots的發佈始於今年春天,選擇一些企業客戶,並於11月擴大到更廣泛的范圍。ChatGPT於2022年底推出,曾經紅極一時,但它隻有大約1400萬日活用戶。微軟有超過10億日活用戶。
當納德拉從奧特曼被解雇的震驚中恢復過來時,他打電話給OpenAI董事會成員亞當·德安吉洛(Adam D’Angelo),向他詢問細節。德安吉洛給納德拉的簡短解釋,在幾分鐘後同樣出現在該公司的聲明之中:奧特曼沒有“在與董事會的溝通中保持一貫的坦誠”。奧特曼是否有不當行為?沒有,但德安吉洛不肯多說。他和他的同事甚至故意讓納德拉不知道他們解雇奧特曼的意圖,因為他們不想讓納德拉警告他。
納德拉沮喪地掛斷電話。微軟擁有OpenAI營利部門近一半的股份——在OpenAI董事會做出這樣的決定時,當然應該征求納德拉的意見。更重要的是,他知道解雇可能會在OpenAI內部引發一場內戰,並可能波及整個一直在激烈辯論人工智能的快速發展是值得慶祝還是令人擔憂的科技行業。
納德拉隨即打電話給微軟首席技術官凱文·斯科特(Kevin Scott),他是打造OpenAI合作夥伴關系的最主要責任人。斯科特已經聽說這個消息,而且消息傳播得很快。他們與其他微軟高管立即召開視頻會議。他們互相詢問,奧特曼被解雇是因為在發佈人工智能產品時,速度與安全之間的緊張關系嗎?OpenAI和微軟以及科技圈的一些大咖之前都表達對人工智能公司魯莽前進的擔憂。甚至OpenAI的首席科學傢兼董事會成員伊爾亞·蘇茨克維(Ilya Sutskever)也公開談論過不受約束的人工智能的危險。2023年3月,在OpenAI發佈其迄今為止最強大的人工智能服務GPT-4後不久,包括“矽谷鋼鐵俠”埃隆·馬斯克(Elon Musk)和蘋果聯合創始人史蒂夫·沃茲尼亞克(Steve Wozniak)在內的數千人曾聯名簽署一封公開信,呼籲暫停訓練高級人工智能模型。“我們應該讓機器用宣傳和謊言淹沒我們的信息渠道嗎?”這封信中反問。“我們應該冒著讓我們文明失控的風險嗎?”許多矽谷觀察傢認為,這封信實質上就是對OpenAI和微軟的指責。
在某種程度上,斯科特尊重他們的擔憂。他認為,對於那些知道自己希望計算機做什麼,但缺乏實現它的培訓的人而言,圍繞人工智能的討論一直奇怪地集中在科幻小說的場景上——計算機摧毀人類——並且在很大程度上忽視該技術“創造公平競爭環境”的潛力。斯科特覺得如果人工智能是以足夠的謹慎和足夠的耐心建立起來的話,它會有能力用簡單的語言與用戶交流,可以成為一種變革和平衡的力量。
斯科特和他在OpenAI的合作夥伴已經決定緩慢但持續地發佈人工智能產品:微軟將觀察未受教育的用戶如何與該技術互動,而用戶將自學該技術的優勢和局限性。通過發佈公認不完美的人工智能軟件,並從客戶那裡獲得坦率的反饋,微軟找到一種既能改進技術又能在用戶中培養懷疑的實用主義的方法。斯科特認為,管理人工智能危險的最佳方式是對盡可能多的人盡可能透明,並讓這項技術逐漸滲透到我們的生活中——從單調的用途開始。還有什麼比通過文字處理器這樣不性感的東西來教人類使用人工智能更好的方法呢?
斯科特所有的謹慎定位都因奧特曼被解雇變得岌岌可危。隨著越來越多的人知道奧特曼被解雇,OpenAI的員工——他們對奧特曼和OpenAI的使命的信仰近乎狂熱——開始在網上表達出沮喪之情。這傢初創公司的首席技術官米拉·穆拉蒂(Mira Murati)隨後被任命為臨時首席執行官,但她並沒有熱情地接受這個角色。很快,OpenAI總裁格雷格·佈羅克曼(Greg Brockman)在社交平臺X上說:“我不幹。”其他OpenAI員工也開始威脅著要辭職。
在與納德拉的視頻通話中,微軟高管開始討論對奧特曼下臺的可能回應。A計劃是試圖通過支持穆拉蒂來穩定局勢,然後與她合作,看看這傢初創公司的董事會是否會改變決定,或者至少對其輕率的舉動進行解釋。
如果OpenAI董事會拒不遵從,微軟高管將實施B計劃:利用其巨大的影響力,包括承諾給OpenAI但尚未打款的數十億美元,幫助奧特曼重新擔任首席執行官並重塑OpenAI的治理結構,方法是更換董事會成員。知情人士表示,在當時的會議中,微軟高管提到:“從我們的角度來看,事情一直進展得很好,而OpenAI的董事會做一些不穩定的事情,所以我們想,‘讓一些成年人來負責,回到我們所擁有的一切。’”
如果以上兩個計劃都失敗,C計劃將是微軟聘用奧特曼及其最有天賦的同事,在微軟內部重新建立OpenAI。在這種情況下,這傢軟件巨頭將擁有所有出現的新技術,意味著它可以把這些技術出售給其他人——這可能會狠狠賺上一筆。
參與視頻通話中的團隊認為,這三個計劃都很有力。但是微軟的目的還是讓一切恢復正常。這種策略背後的信念是,微軟已經搞清楚開發負責任人工智能所需的方法、安全保障和框架中的一些重要內容。無論奧特曼發生什麼,公司都在根據自己的藍圖推進人工智能的普及。
01 與OpenAI合作的關鍵人物
斯科特確信人工智能可以改變世界,這是因為技術已經徹底改變他自己的生活。他在弗吉尼亞州格拉迪斯(Gladys)長大,這是一個離南北戰爭時期南方主將李將軍向格蘭特投降的地方不遠的小社區。他傢裡沒有人上過大學,醫療保險幾乎是一個陌生的概念。作為一個男孩,斯科特有時依賴鄰居的食物。他的父親是一名越南獸醫,曾嘗試著經營過加油站、便利店、卡車運輸公司和各種建築企業,但都以失敗告終,並兩次宣佈破產。
斯科特想要一種不同的生活。他的父母以每月分期付款的方式給他買一套百科全書,斯科特像大型語言模型Avant La Lettre一樣,把這套書從頭到尾閱讀一遍。為好玩,他拆開傢中的烤面包機和食物攪拌器。他攢夠錢,買得起Radio Shack最便宜的電腦,然後通過查閱圖書館書籍學會編程。
在斯科特1972年出生前的幾十年裡,格拉迪斯周圍的地區是傢具和紡織廠的所在地。到他青春期時,大部分制造業都轉移到海外。技術——供應鏈自動化,和電信的進步表面上是罪魁禍首,因為它們使得在海外生產商品變得更加容易,那裡的日常開支更便宜。但是,即使在十幾歲的時候,斯科特也覺得技術不是真正的罪魁禍首。“這個國傢告訴自己,外包是不可避免的,”斯科特今年9月接受采訪時曾表示。“我們可以告訴自己失去制造業的社會和政治負面影響,或者保護社區的重要性。但那些從未真正成為現實。”
在進入林奇堡學院(一所隸屬於基督門徒的當地學校)後,斯科特獲得維克森林大學的計算機科學碩士學位,並於1998年開始在弗吉尼亞大學攻讀博士學位。他對人工智能很著迷,但他解到許多計算機科學傢將其視為等同於占星術。早期創造人工智能的各種嘗試都失敗,這個領域有勇無謀的觀念在學術部門和軟件公司根深蒂固。許多頂級思想傢已經放棄這門學科。在2000年,一些學者試圖通過將人工智能研究重新命名為“深度學習”來復興它。但懷疑論持續存在:在2007年的一次人工智能會議上,一些計算機科學傢制作一個惡搞視頻,暗示深度學習人群是由邪教徒組成的。
當斯科特攻讀博士學位時,他註意到他遇到的一些最優秀的工程師強調成為短期悲觀主義者和長期樂觀主義者的重要性。“這幾乎是必須的,”斯科特說。“你看到世界上所有破碎的東西,而你的工作就是努力修復它。”即使工程師們認為他們嘗試的大部分都不會成功,而且一些嘗試可能會讓事情變得更糟,他們也“必須相信他們可以解決問題,直到事情最終變得更好。”
2003年,斯科特從他的博士項目中請假加盟谷歌,在那裡他負責監督移動廣告工程。幾年後,他從谷歌辭職,在移動廣告初創公司AdMob負責工程和運營,谷歌後來以7.5億美元收購這傢公司。斯科特隨後跳槽到領英,在那裡他因異常擅長以既鼓舞人心又現實的方式構建雄心勃勃的項目而聞名,2016年,領英被微軟收購,斯科特也隨之加入微軟。
那時的斯科特已經非常富有,但在技術圈裡卻鮮為人知,因為他喜歡“匿名”。他曾計劃在微軟收購完成後離開領英,但2014年成為微軟首席執行官的納德拉敦促他重新考慮。納德拉分享一些讓斯科特對人工智能感到好奇的信息,部分由於更快的微處理器,該領域當時的發展讓這項技術身名鵲起:Facebook已經開發復雜的面部識別系統;谷歌建立一個能夠熟練翻譯語言的人工智能。納德拉很快宣佈,在微軟,人工智能“將決定我們未來的所有行動。”
斯科特不確定他和納德拉是否有相同的抱負。他給納德拉發一份備忘錄,解釋說如果他留下來,他希望自己的部分議程是提升那些通常被科技行業忽視的人。斯科特希望人工智能能夠幫助那些聰明但沒有接受過數字教育的人,他就是在這些人中長大的。這是一個引人註目的論點——一些技術專傢會認為這是故意的嗎?鑒於人們普遍擔心人工智能輔助的自動化會消除雜貨店收銀員、工廠工人或電影臨時演員等工作。
然而,斯科特相信一個更樂觀的故事。他在接受采訪時表示,曾經有一段時間,大約70%的美國人從事農業工作。技術進步減少對勞動力的需求,如今隻有1.2%的勞動力務農。但這並不意味著有數百萬農民失業:許多這樣的人成為卡車司機,或回到學校成為會計師,或找到其他道路。斯科特表示,“也許在更大程度上,人工智能比之前的任何技術革命都更能用來重振美國夢。”他覺得,在弗吉尼亞州經營一傢養老院的童年好友可以利用人工智能來處理她與醫療保險和醫療補助的互動,讓該機構專註於日常護理。另一個朋友在一傢為主題公園制造精密塑料部件的商店工作,他可以利用人工智能來幫助他制造部件。斯科特認為,人工智能可以通過將“有贏傢和輸傢的零和交易轉變為非零和進步,讓社會變得更好。”
納德拉讀備忘錄,正如斯科特所說:“是的,聽起來不錯。”一周後,斯科特被任命為微軟的首席技術官。
如果斯科特希望微軟領導人工智能革命,他必須幫助該公司超越谷歌。谷歌通過向幾乎任何人提供數百萬美元來拉攏人工智能領域的人才,哪怕他們隻是取得一個小小的突破。在過去的20年裡,微軟一直試圖通過在內部人工智能項目上花費數億美元來與谷歌競爭,但收效甚微。微軟高管們開始認為,像微軟這樣巨大的公司——擁有超過20萬名員工和龐大的官僚體系——不具備人工智能發展所需的靈活性和動力。“有時候越小越好,”斯科特在接受采訪時說。
在這種情況下,斯科特開始關註各種創業公司,其中一傢脫穎而出:OpenAI。這傢公司的使命是要確保“通用人工智能——我們指的是在最具經濟價值的工作中超越人類的高度自治系統——造福全人類。”在此之前,微軟和OpenAI已經建立起合作關系:這傢初創公司使用微軟的雲計算平臺Azure。2018年3月,斯科特在這傢位於舊金山的初創公司安排一次與一些員工的會面。他很高興見到幾十個年輕人,他們拒絕大型科技公司的數百萬美元薪酬,為一個承諾其發明不會“傷害人類或過度集權”的組織每天工作18小時。該公司首席科學傢蘇茨克維特別關註為人工智能的出現做準備,人工智能如此復雜,可能會解決人類的大多數問題——或者導致大規模的破壞和絕望。
與此同時,奧特曼是一位有魅力的企業傢,他決心讓人工智能變得有用和賺錢。斯科特認為,這傢初創公司的敏感性非常理想。他表示,OpenAI致力於“將能量導向影響最大的事物。他們有一種真正的文化,即‘這是我們正在努力做的事情,這些是我們正在努力解決的問題,一旦我們發現什麼可行,我們就會加倍努力。’他們對未來有一套自己的理論。”
OpenAI當時已經取得令人矚目的成果:它的研究人員創造一隻機器人手,可以玩魔方,即使遇到以前沒有遇到過的挑戰,比如把它的一些手指綁在一起。然而,最讓斯科特興奮的是,在隨後的一次會議上,OpenAI的管理層告訴他,他們已經放棄機器人手,因為它不夠有前途。“最聰明的人有時最難管理,因為他們有一千個絕妙的主意,”斯科特說。但該公司的員工對他們的工作幾乎充滿救世主般的熱情。在今年7月斯科特遇到蘇茨克維後不久,蘇茨克維向斯科特說,人工智能將“顛覆人類生活的每一個領域”,這可能會使醫療保健等領域比現在“好一億倍”。這種自信嚇跑一些潛在投資者,但斯科特覺得這很吸引人。
這種樂觀與當時彌漫在微軟的陰鬱氣氛形成鮮明對比。一位微軟前高管表示:“每個人都認為人工智能是一場數據遊戲,谷歌擁有更多數據,微軟處於永遠無法縮小的巨大劣勢。”該高管補充說,“我記得當時感到非常絕望,直到斯科特說服我們,還有另一種方式來玩這個遊戲。”微軟和OpenAI之間的文化差異使他們成為特殊的合作夥伴。但對斯科特和在成為OpenAI的首席執行官之前曾領導創業加速器Y Combinator的奧特曼來說,聯手是非常明智的。
納德拉、斯科特和微軟的其他人願意容忍這些奇怪的事情,因為他們相信,如果他們能夠用OpenAI技術強化自己的產品,並利用初創公司的天賦和雄心,他們將在人工智能競賽中獲得顯著優勢。2019年,微軟同意向OpenAI投資10億美元。從那以後,微軟實際上獲得OpenAI營利部門49%的股份,以及將OpenAI過去和未來的發明商業化的權利,包括在Word、Excel、Outlook、以及Skype和Xbox遊戲機等產品,都可以應用OpenAI的技術。
02 貧困中長大的穆拉蒂
納德拉和斯科特對這項投資的信心是由他們與奧特曼、蘇茨克維和首席技術官穆拉蒂形成的紐帶支撐的。斯科特特別重視與穆拉蒂的關系。像他一樣,她也是在貧困中長大的。她1988年出生於阿爾巴尼亞,經歷黑幫資本主義的興起和內戰的爆發。她通過參加數學競賽來應對這一巨變。
當穆拉蒂16歲時,她獲得加拿大一所私立學校的獎學金,在那裡她表現出色。“我童年的很多時光充斥著警笛聲、槍擊案以及其他可怕的事情,”穆拉蒂在今年夏天接受采訪時說。“但是仍然有快樂的生日、少女的單相思和知識的海洋。這教會你一種堅韌的品德——相信如果你繼續努力,事情會變得更好。”
穆拉蒂在達特茅斯大學學習機械工程,期間加入一個研究團隊,該團隊正在建造一輛由超級電容器電池供電的賽車,這種電池能夠產生巨大的能量爆發。其他研究人員認為超級電容器不切實際;還有一些人追求更深奧的技術。穆拉蒂認為這兩種觀點都太過極端。這樣的人永遠不可能穿越彈坑到達她的學校。穆拉蒂說,你必須是一個樂觀主義者和現實主義者,“有時人們會把樂觀主義誤解為粗心的理想主義。但這必須經過充分的考慮和深思熟慮,要有很多護欄——否則,你會冒很大的風險。”
畢業後,穆拉蒂加入特斯拉,然後在2018年加入OpenAI。斯科特表示,他同意十億美元投資的一個原因是他“從未見過穆拉蒂慌張的樣子。”他們開始討論如何使用超級計算機來訓練各種大型語言模型。
兩傢公司很快就建立並運行一個系統,結果令人印象深刻:OpenAI訓練一個機器人,它可以生成令人驚嘆的圖像,以響應諸如“給我看狒狒在耶穌旁邊扔披薩,以馬蒂斯的風格呈現”的提示。另一個創造GPT,能夠用英語會話回答任何問題——即使不總是正確的。但目前還不清楚普通人如何將這種技術用於除無所事事的娛樂之外的任何事情,也不清楚微軟如何收回投資。今年年初又有消息稱,微軟的投資將增加至100億美元。
2019年的一天,一位名為達裡奧·阿莫代伊(Dario Amodei)的OpenAI副總裁向他的同行展示一件非凡的事情:他向GPT輸入一個軟件程序的一部分,並要求系統完成編程。它幾乎立刻就這麼做(使用阿莫代伊自己沒有計劃使用的技術)。沒有人能確切地說出人工智能是如何做到這一點的——大型語言模型基本上是一個黑盒。GPT的實際代碼相對較少;它的答案是一個字一個字地基於數十億的數學“權重”,根據復雜的概率決定下一步應該輸出什麼。在回答用戶的問題時,不可能繪制出模型建立的所有聯系。
對OpenAI內部的一些人來說,GPT神秘的編程能力令人恐懼——畢竟,這是《終結者》等反烏托邦電影的場景。當員工們註意到,盡管GPT技術高超,但有時還是會犯編程錯誤,這幾乎令人振奮。在解到GPT的編程能力後,斯科特和穆拉蒂感到有些擔心,但更多的是興奮感。他們一直在尋找人工智能的實際應用,人們可能會付費使用。
03 Copilot的誕生
5年前,微軟收購GitHub,其原因與它投資OpenAI的原因大致相同。GitHub的文化年輕且快速發展,不受傳統和正統文化束縛。被收購後,它成為微軟內部的一個獨立部門,擁有自己的首席執行官和獨立決策權。事實證明該策略是成功的,GitHub深受軟件工程師的喜愛,其用戶數量增長到一億多。
因此,斯科特和穆拉蒂在尋找一個可能會對能夠自動完成代碼的工具感到興奮的微軟部門——即使它偶爾會出錯——他們轉向GitHub的首席執行官納特·弗裡德曼(Nat Friedman)。畢竟,發佈在GitHub上的代碼有時會包含錯誤;用戶已經學會解決不完美的地方。弗裡德曼說他想要這個工具。他指出,GitHub隻需要想出一種方法來告訴人們,他們不能完全信任自動完成功能。GitHub員工集體討論該產品的名稱:Coding Autopilot、Automated Pair Programmer、Programarama Automat。弗裡德曼是一名業餘飛行員,他和其他人認為這些名稱錯誤地暗示該工具可以完成所有工作。而這個工具更像是一個副駕駛——一個和你一起進入駕駛艙並提出建議的人,同時偶爾也會提出一些不合時宜的建議。通常你會聽副駕駛的意見;有時你會選擇忽略。當斯科特聽到弗裡德曼最喜歡的名字——GitHub Copilot時,他很喜歡這個名字。斯科特說:“這個名稱完美地傳達它的優點和缺點。”
但當GitHub準備在2021年推出Copilot時,微軟其他部門的一些高管提出抗議,認為該工具偶爾會產生錯誤,會損害微軟的聲譽。“這是一場激烈的戰鬥,”弗裡德曼告訴我。“但我是GitHub的首席執行官,我知道這是一個很棒的產品,所以我發佈它。”當GitHub Copilot發佈後,立即大獲成功。“Copilot簡直讓我大吃一驚,”一名用戶在發佈幾小時後發推文說。“這是魔法!!!”另一個貼子說。微軟開始對該應用程序收取每月10美元的費用;不到一年,GitHub的年收入就超過一億美元。該部門的獨立性得到回報。
但是GitHub Copilot也引起不太積極的反應。在留言板上,程序員推測,如果有人太懶或太無知而沒有在部署自動完成的代碼之前檢查它,這種技術可能會蠶食他們的工作,或者給網絡恐怖分子提供動力,或者引發混亂。包括一些人工智能先驅在內的知名學者引用已故的斯蒂芬·霍金(Stephen Hawking)在2014年的聲明,即“全人工智能可能意味著人類的終結。”
令人震驚的是,GitHub Copilot的用戶發現如此多的災難性可能性。但GitHub和OpenAI的高管們也註意到,人們使用這個工具越多,他們對它的能力和局限性的理解就越微妙。“使用一段時間後,你會對它擅長什麼和不擅長什麼有一種直覺,”弗裡德曼說。“你的大腦會學習如何正確使用它.”
微軟高管認為,他們找到一個既有魄力又負責任的人工智能發展戰略。斯科特開始寫一份備忘錄,題為《人工智能Copilot的時代》,於2023年初發送給微軟的技術領導人。斯科特寫道,重要的是,微軟為向世界解釋這項技術找到一個強有力的比喻:“Copilot做的正是名字所暗示的;對於試圖完成復雜任務的用戶來說,它是一個專傢助手……Copilot可以幫助用戶解其能力的極限。”
在ChatGPT發佈後,它讓大多數人解人工智能,並迅速成為歷史上增長最快的消費級應用程序。但是斯科特可以預見未來:機器和人類通過自然語言進行互動;人們,包括那些對編程一無所知的人,僅僅通過說出他們想法來給計算機編程。這是他一直追求的公平競爭環境。正如OpenAI的聯合創始人在社交媒體上所說:“最熱門的新編程語言是英語。”
斯科特寫道:“在我的職業生涯中,我從未經歷過我的領域發生如此大變化的時刻,重新想象可能性的機會如此現實和令人興奮。”下一個任務是將GitHub Copilot——一款精品產品——的成功應用於微軟最受歡迎的軟件。這些Copilot的引擎將是一項新的OpenAI發明:一個大型語言模型。OpenAI稱之為GPT-4。
微軟多年前曾試圖將人工智能帶給大眾,但最終尷尬的以失敗收場。1996年,該公司發佈Clippy,這是其辦公產品的“助手”。Clippy在屏幕上顯示為一個有著卡通大眼睛的紙夾,看似隨機地彈出,詢問用戶是否需要幫助來寫信、打開PowerPoint或完成其他任務。傑出的軟件設計師艾蘭·庫伯(Alan Cooper)後來說,Clippy的設計是基於對研究的“悲劇性誤解”,研究表明人們可能會更好地與似乎有情感的計算機互動。用戶當然對Clippy有情緒:他們討厭它。史密森尼稱之為“計算機史上最糟糕的軟件設計失誤之一。”2007年,微軟砍掉Clippy。
9年後,微軟創造人工智能聊天機器人Tay,旨在模仿一個十幾歲女孩的語調和註意力,目的是為與推特用戶互動。Tay幾乎立即開始發佈種族主義、性別歧視和同性戀恐懼的內容,包括“希特勒是對的”的聲明。在發佈後的第一個16小時內,Tay發佈96000次,此時微軟意識到這是一場公關災難,將其關閉。
到2022年底,微軟高管們覺得已經準備好開始為Word、Excel和其他產品開發Copilots。但微軟明白,就像法律是不斷變化的一樣,即使在產品發佈後,產生新的保護措施的需求也會不斷增加。人工智能工程主管莎拉·伯德(Sarah Bird)和斯科特經常因這項技術的失誤而感到汗顏。在疫情期間,當他們測試另一項OpenAI發明圖像生成器Dall-E 2時,他們發現如果要求系統創建與新冠肺炎有關的圖像,它通常會輸出貨架被搶空的圖片。一些微軟員工擔心這樣的圖像會加劇人們對疫情導致經濟崩潰的擔憂,他們建議改變產品的安全措施以抑制這種趨勢。但微軟的其他人認為這些擔憂是愚蠢的,不值得軟件工程師花費時間。
斯科特和伯德決定在有限的公開發佈中測試這個場景,而不是裁定這個內部辯論。他們推出一個版本的圖像生成器,然後等著看用戶是否會因為看到屏幕上的空貨架而感到不安。他們不會為一個沒有人確定存在的問題設計一個解決方案——就像一個眼睛瞪得圓圓的回形針幫助你瀏覽一個你已經知道如何使用的文字處理器——他們隻會在必要時增加一個緩解措施。在監控社交媒體和互聯網的其他角落,並收集用戶的直接反饋後,斯科特和伯德得出結論,這些擔憂是沒有根據的。“你必須在公共場合進行實驗,”斯科特說。“你不能試圖自己找到所有的答案,並希望你把一切都做對。我們必須學會如何一起使用這些東西,否則我們誰也搞不懂。”
2023年初,微軟準備發佈首次將GPT-4集成到微軟品牌產品中:搜索引擎必應。集成人工智能技術的必應受到熱烈歡迎,下載量猛增八倍。納德拉開玩笑說微軟打敗“800磅重的大猩猩”,以此來嘲諷谷歌。(盡管這項創新令人印象深刻,但就市場份額而言並沒有多大意義:谷歌仍然占據90%以上的搜索份額。)
必應隻是一個微軟議程上的一個開端。隨後微軟開始在其他產品中推出Copilot。今年春天,當微軟最終開始推出Copilots時,版本的發佈是小心翼翼地錯開的。最初,隻有大公司才能使用這項技術;隨著微軟解這些客戶如何使用它並開發出更好的保護措施,它才會被提供給越來越多的用戶。截至11月15日,已有數萬人在使用Copilots,預計很快會有數百萬人註冊。
在此兩天之後,納德拉忽聞奧特曼被解雇。OpenAI董事會的一些成員發現奧特曼是一個狡猾得令人不安的操縱者。例如,今年秋初,他與喬治敦大學安全和新興技術中心主任海倫·托納(Helen Toner)對質,因為她與人合寫一篇論文,似乎批評OpenAI“助長人工智能炒作的火焰”。托納為自己辯護(盡管她後來向董事會道歉,沒有預料到這篇論文會被怎樣看待)。奧特曼開始單獨接觸其他董事會成員,討論替換她的問題。當這些成員交換談話記錄時,一些人認為奧特曲解成他們支持解除托納職務。“他會在其他人的想法上撒謊,讓他們互相爭鬥,”熟悉董事會討論的人士透露。“這樣的事情已經發生多年。”(一位熟悉奧特曼觀點的人士表示,他承認“試圖讓一名董事會成員下臺的方式很笨拙”,但他沒有企圖操縱董事會。)
04 微軟的A、B、C計劃
奧特曼被認為是一個精明的企業鬥士。這在過去對OpenAI很有幫助:2018年,他阻止早期董事會成員馬斯克收購OpenAI的沖動。奧特曼控制信息和操縱認知的能力——公開的和秘密的——吸引風險資本傢通過投資各種創業公司來相互競爭。他的戰術技巧如此令人畏懼,以至於當董事會的四名成員——托納、德安吉洛、蘇茨克維和塔莎·麥考利(Tasha McCauley)——開始討論罷免他時,他們決心保證讓他措手不及。“很明顯,一旦山姆知道,他會盡一切可能削弱董事會,”熟悉這些討論的人士說。
不高興的董事會成員覺得OpenAI的任務要求他們對人工智能變得太危險保持警惕,他們認為奧特曼在位的情況下,他們無法履行這一職責。“任務是多方面的,要確保人工智能造福全人類,但如果不能讓首席執行官負起責任,沒人能做到,”另一名解董事會想法的人說。奧特曼看問題的角度不同。熟悉他的觀點的人說,他和董事會進行“非常正常和健康的董事會辯論”,但一些董事會成員不熟悉商業規范,並被他們的責任所嚇倒。這個人說,“我們每向人工智能靠近一步,每個人都要承受10分的精神錯亂。”
很難說董事會成員更害怕有感知能力的計算機,還是擔心奧特曼擅作主張。但不管怎樣,董事會最終選擇先發制人,他們誤以為微軟會和他們站在一起,共同把奧特曼當做目標,支持他們的罷免決定。
納德拉得知奧特曼被解雇的消息並召集斯科特和其他高管召開視頻會議後不久,微軟開始執行A計劃:支持穆拉蒂擔任臨時首席執行官以穩定局勢,同時試圖查明董事會為何如此沖動。納德拉已經批準發佈一份聲明,強調“在我們將人工智能的下一個時代帶給我們的客戶時,微軟仍然致力於米拉和他們的團隊”,並在他的個人X和LinkedIn賬戶上表達同樣的觀點。他與穆拉蒂保持著頻繁的聯系,以便及時解她從董事會掌握的信息。
答案是:不多。在奧特曼被解雇的前一天晚上,董事會通知穆拉蒂他們的決定,並得到她保持沉默的承諾。他們認為她的同意意味著她支持解雇奧特曼,或者至少不會反對董事會,他們還認為其他員工也會同意。他們錯。在內部,穆拉蒂和其他OpenAI高管表達他們的不滿,一些員工認為董事會的行動是一次政變。OpenAI的員工向董事會成員提出尖銳的問題,但董事會幾乎沒有回應。兩名熟悉董事會想法的人士表示,出於保密的考慮,董事會成員感到必須保持沉默。此外,隨著奧特曼下臺成為全球新聞,董事會成員感到不知所措,“與任何人接觸的帶寬有限,包括微軟。”
奧特曼被解雇的第二天,OpenAI的首席運營官佈拉德·萊特卡普(Brad Lightcap)發送一份全公司備忘錄,稱他解到“董事會的決定不是為應對瀆職或任何與我們的財務、業務、安全或安全/隱私實踐相關的事情。”他接著說,“這是山姆和董事會之間溝通的中斷。”但是,每當有人要求奧特曼舉例說明他沒有像董事會最初抱怨的那樣“在溝通中一貫坦誠”,董事會成員都保持沉默,甚至拒絕提及奧特曼反對托勒的運動。
在微軟內部,整個事件看起來愚蠢得令人難以置信。據報道,到目前為止,OpenAI價值約800億美元。該公司的一位高管表示:“除非OpenAI董事會的目標是毀滅整個公司,否則他們似乎總是莫名其妙地在每次做決定時做出最糟糕的選擇。”即使其他OpenAI員工在總裁佈羅克曼的帶領下公開辭職,董事會仍然保持沉默。
A計劃顯然失敗。因此,微軟的高管們轉向B計劃:納德拉開始與穆拉蒂協商,看是否有辦法恢復奧特曼的首席執行官職位。在此期間,板球世界杯正在進行,納德拉鐘愛的印度隊在決賽中對陣澳大利亞隊。納德拉偶爾會在社交平臺X上發帖報告賽事的最新進展,希望緩解緊張的氛圍,但他的許多同事不知道他在說什麼。
OpenAI員工威脅要反抗。穆拉蒂和這傢初創公司的其他人在微軟的支持下,開始敦促所有董事會成員辭職。最終,他們中的一些人同意離開,隻要他們認為替代者可以接受。他們表示,他們甚至可能對奧特曼的回歸持開放態度,隻要他不是首席執行官,並且沒有獲得董事會席位。到感恩節前的那個周日,每個人都筋疲力盡。OpenAI董事會邀請穆拉蒂單獨加入他們進行私人談話。他們告訴她,他們一直在秘密招聘一位新的首席執行官,並終於找到願意接受這份工作的人。
對穆拉蒂、OpenAI員工、微軟而言,他們隻能抓住最後一根稻草,啟動C計劃。周日晚上,納德拉正式邀請奧特曼和佈羅克曼領導微軟內部的一個新的人工智能研究實驗室,並提供他們想要的所有資源和盡可能多的自由。兩人都接受。微軟開始為他們認為將加入該部門的數百名OpenAI員工準備辦公室。
穆拉蒂和她的同事們寫一封公開信給OpenAI的董事會:“我們無法為那些缺乏能力、判斷力且不關心我們使命和員工的人工作或與他們合作。”該信件的作者承諾辭職並“加入新成立的微軟子公司”,除非所有現任董事會成員辭職並重新任命奧特曼和佈羅克曼。幾個小時內,幾乎所有OpenAI員工都簽署這封信。
C計劃以及OpenAI大規模離職的威脅足以讓董事會態度軟化。感恩節前兩天,OpenAI宣佈奧特曼將重新擔任首席執行官。除德安吉洛外,所有董事會成員都將辭職,而更知名的人物——包括Facebook前高管、推特董事長佈雷特·泰勒(Bret Taylor),以及前財政部長、哈佛大學校長拉裡·薩默斯(Larry Summers)——將出任董事。OpenAI的高管同意對所發生的事情進行獨立調查,包括奧特曼過去作為首席執行官的行為。
盡管C計劃最初看起來很誘人,但微軟高管後來得出的結論是,目前的情況是最好的結果。將OpenAI的員工轉移到微軟可能會導致成本高昂且浪費時間的訴訟,還可能引發政府調查。在新框架下,微軟獲得OpenAI的無投票權的董事會觀察員席位,使其在不引起監管審查的情況下獲得更大的影響力。
05 微軟的巨大勝利
事實上,這出肥皂劇的結局被視為微軟的巨大勝利,也是對其開發人工智能方法的有力認可。一位微軟高管表示:“奧特曼和佈羅克曼真的很聰明,他們可以去任何地方。但他們選擇微軟,所有那些OpenAI的人都準備選擇微軟,就像四年前選擇我們一樣。這極大地驗證我們建立的體系。他們都知道,這裡是繼續他們正在做的工作的最佳地點,最安全的地點。”
與此同時,被解雇的董事會成員堅稱他們的行為是明智的。“將會有一個全面和獨立的調查,而不是把一群山姆的親信放在董事會,我們最終有可以對抗他的新人,”熟悉董事會討論的人透露說。“山姆很有權力,他很有說服力,他善於為所欲為,現在他註意到人們在看著他。”前董事托納說,“董事會始終專註於履行我們對OpenAI使命的義務。”(奧特曼告訴其他人,他歡迎調查——部分是為幫助他理解為什麼會發生這樣的悲劇,以及他本可以采取哪些不同的措施來防止這種情況發生。)
一些人工智能監管機構對這個結果不是特別滿意。開源人工智能平臺Hugging Face的首席倫理學傢瑪格麗特·米歇爾(Margaret Mitchell)認為,“董事會解雇奧特曼的時候,確實是在做自己的工作。他的回歸將會產生寒蟬效應。我們將會看到越來越少的人在公司內部直言不諱,因為他們會認為自己會被解雇——而高層的人會更加不負責任。”
就奧特曼而言,他準備討論其他事情。“我認為我們隻是轉向良好的治理和優秀的董事會成員,我們將進行獨立評估,這讓我非常興奮,”他告訴我。“我隻是希望每個人都繼續生活,開心快樂。我們會繼續進行這項任務。”
讓納德拉和斯科特松一口氣的是,隨著Copilots的大規模發佈,微軟的一切都恢復正常。不過Office Copilots看起來既令人印象深刻又平庸。它們讓平凡的任務變得更容易,但它們距離取代人類工人還有很長的路要走。它們感覺和科幻小說預言的相去甚遠,但是它們也是人們可能每天都會用到的東西。
根據斯科特的說法,這種效果是有意的。“真正的樂觀主義意味著有時要慢慢來,”他說。如果他、穆拉蒂和納德拉如願以償——鑒於他們最近的勝利,這種可能性現在更大——人工智能將繼續穩步滲透到我們的生活中,其速度足以適應短期悲觀主義所需的警告,並且隻有在人類能夠吸收這項技術應該如何使用的情況下才會如此。事情仍有可能失控——人工智能的漸進發展將阻止我們意識到這些危險,直到為時已晚。但是,就目前而言,斯科特和穆拉蒂相信他們能夠平衡進步和安全。
斯科特表示:“人工智能是人類為提高每個人的生活質量而發明的最強大的東西之一。但這需要時間,也應該需要時間。我們總是通過技術來解決極具挑戰性的問題。因此,我們可以告訴自己一個關於未來的好故事,也可以告訴自己一個關於未來的壞故事——無論我們選擇哪一個,那都有可能成為現實。”