OpenAI首席科學傢大膽設想:人類未來將難免與AI融合


作為人工智能領域數一數二的權威人士,OpenAI首席技術官IlyaSutskever的想法一直被認為十分大膽,甚至有些瘋狂。在最近的一次采訪中,Sutskever聲稱,他認為ChatGPT可能存在意識,而有一天人類會選擇和人工智能融合,從而與超級智能競爭。

1 bmlZwr3rhfqMDGVnQR2BXA.jpg

他指出,未來人工智能的興起將鼓勵人類與AI融合,在一個擁有更智能AI的世界中,人類的生存空間被不斷壓縮。雖然現在聽起來很瘋狂,但許多人會選擇將自己部分AI化。

他補充道,一開始隻有最勇敢且具有冒險精神的人才會嘗試,之後其他人會效仿。但他自己對這一可能性充滿不確定,他也無法確定自己是否也會進行融合。

如何控制AI

Sutskever稱,人工智能可能在未來十年內超過人類的智能,且AI未必是善意的,因此人類需要研究控制和限制它的方法。

但Sutskever承認目前仍未出現解決方案。現在的技術主要是根據人類的反饋讓AI進行強化學習,這依賴於人類監督AI的能力。但實際上,人類無法可靠有效地監督一個智能高於人類的AI系統。

他還強調超級人工智能的概念,認為其將更深入地看待事物,並看到人類看不到的東西。為此,OpenAI成立一個超級對齊團隊(SuperAlignment),由Sutskever和超級對齊聯合領導人Jan Leike共同領導,目標在四年內解決控制超級智能AI的核心技術。

不過,Sutskever的想法顯然更加消極一些,一言以蔽之:打不過AI,那就加入AI。

但這又和馬斯克的想法十分接近。馬斯克就指出他名下的Neuralink公司最終目標就是實現人類與人工智能的共生,還提出將人類大腦上傳到雲端的超前概念。

然而,無論是OpenAI還是Neuralink都還有很長的路要走。OpenAI的ChatGPT目前還未解決幻覺問題,Neuralink則在大腦植入的活體實驗中飽受攻訐。


相關推薦

2023-11-02

OpenAI首席科學傢在最近的專訪中拋出很多驚人言論。在他看來,ChatGPT背後的神經網絡已經產生意識,而且未來人類會與人工智能融合起來,出現新的形態。而他現在工作的重點,已經不是去創建那個必然會出現的通用人工智能

2023-11-23

股思潮的信奉者與非信奉者間的針鋒相對,似乎也正成為OpenAI過去一周震驚世界的“宮鬥事件”背後,真正的“無形之手”。有效利他主義是如何影響AI領域的?有效利他主義(Effective Altruism)於21世紀初萌芽,這套哲學理念希

2023-11-01

編者註:OpenAI首席科學傢IlyaSutskever的X賬號可能是科技界名人裡最特別的那種,他很少極少分享自己的個人生活,除轉發公司產品鏈接,他的推文通常都是一些零碎的閃念和思考:“自我是成長的敵人”;“GPU就是新時代的比特

2023-05-11

Helion已經籌集超過5.7億美元的私人資本。值得註意的是,OpenAI的創始人Sam Altman也是Helion早期和最重要的投資者之一,他向Helion投資3.75億美元,外媒稱這是其“有史以來”最大的投資。Altman認為,Helion和OpenAI同樣重要,並且都是

2024-04-22

2021年被問及AI公司排名時表示:“從聲譽上看,DeepMind、OpenAI 和 Facebook的FAIR有充分理由當選前三名。”AlphaFold模擬的人類蛋白質結構示意圖,圖片來源:DeepMind官網由此,DeepMind走上一條獨特的AI產品路線:以遊戲作為形式,以

2024-03-18

馬斯克來說,開源Grok-1的重要目的,似乎也是為自己與與OpenAI的唇槍舌戰再添一份底氣——就在開源同一時間,馬斯克貼臉嘲諷:“我們也想解更多關於OpenAI的‘open’部分。”事實上,“是否開源”一直是這兩周以來馬斯克與Op

2023-11-18

與29歲的馬斯克一樣,37歲的OpenAI創始人山姆·阿爾特曼(SamAltman)剛剛被公司董事會閃電解職美國當地時間11月16日,阿爾特曼在舊金山參加APEC峰會,並在一場研討會上代表公司發言。一天後,OpenAI發佈一紙聲明,阿爾特曼被解

2023-11-19

席卷周末OpenAI的“政變”風波,令全球AI行業目瞪口呆。華爾街見聞此前文章提到,此次內鬥的根源,可能在於AI監管與商業化之間的矛盾——OpenAI首席科學傢IlyaSutskever無法接受CEOSamAltman激進的商業化戰略,因此和其他董事聯手

2022-12-20

術那樣簡單。盡管馬斯克的這一說法有些大膽,但有神經科學傢認為,這款機器人產品確實擁有一些很有前途的功能。比如,在手術過程中,大腦的位置會隨著呼吸和心跳而微微移動,機器人會實時自動調整硬針的位置以適應這

2024-03-08

015年,他們攜手創辦一個非營利性人工智能研究實驗室“OpenAI”,對抗以谷歌為代表的科技巨頭。然而不到三年,馬斯克以“利益沖突”為由退出OpenAI董事會。事到如今,馬斯克與奧特曼徹底決裂,舊日願景卻成矛盾焦點。今年

2024-02-19

Sora一夜之間爆火全球。但奇怪的是,OpenAI聯合創始人兼首席科學傢伊爾亞·蘇茨克維(IlyaSutskever)卻在保持沉默,沒有轉發任何一條關於Sora的視頻或推文。Sora目前沒有公開測試權限,僅僅向公司內部負責安全風險評估的紅隊成

2022-11-07

11月6日消息,今日,2022騰訊科學WE大會十周年如期舉行。騰訊高級副總裁郭凱天現場宣佈,騰訊正在深圳前海總部建造一座開放的永久科技館,將聯合頂尖科研機構,運用人工智能和全真互聯技術,打造一棵數實融合的人類百年

2024-04-08

類社會的生命演變,以及地球的未來。塔塔管理合夥人兼首席未來學傢Frank Diana表示:“我們現在正處於這樣一個時刻:科學和技術能夠以一種我們很久沒有見過的方式推動人類進步。我們正處於第二次工業革命以來從未去過的

2023-11-21

大戲”的背後原因?憑借廣受歡迎的聊天機器人ChatGPT,OpenAI一夜成名,OpenAI首席執行官SamAltman也成為科技界知名人物。而這種似乎引發公司內部的緊張關系,一場讓科技圈地震的內鬥在周末上演,劇情反轉,再反轉……當地時