美國科學傢:超級人工智能毀滅人類可能性僅為5%


快科技1月7日消息,據報道,英國《新科學傢》周刊一篇論文中,科學傢稱,人工智能有5%的可能性導致人類滅絕。

論文作者、美國加州機器情報研究所卡特婭格拉斯稱,大多數人工智能研究者並不認為先進人工智能毀滅人類是非常難以置信的。我認為,這種認為存在非微小風險的普遍看法比確切的風險百分比更能說明問題。

與2022年進行的同一項調查得出的答案相比,許多人工智能研究者預測,人工智能將比此前預測的更早達到某些裡程碑。

這與2022年11月聊天生成預訓練轉換器(ChatGPT)問世和矽谷急於廣泛部署基於大型語言模型的類似AI聊天機器人的服務吻合。

此外,到2047年,人工智能在每項任務上的表現都超過人類的可能性為50%。

而到2116年,所有人類工作實現完全自動化的可能性為50%。這些估計比去年調查結果中給出的時間分別提前13年和48年。


相關推薦

2023-07-15

造這種AI的期限也公佈,設定在2029年實現AGI,也就是通用人工智能。馬斯克稱xAI最終會取代當前大部分AI公司,不過在此之前xAI還處於萌芽階段,需要時間才能追趕上谷歌、OpenAI等公司。

2023-11-03

斯就在今天,AI巨佬Bengio牽頭簽署一封聯名信,呼籲針對人工智能制定一項國際性的條約,從而應對其潛在的災難性風險,確保能夠得到安全、負責任的發展,為人類造福。地址:https://aitreaty.org/目前,已有300多人簽署,其中還

2023-11-23

裡,被稱為“有效利他主義”的社會思潮運動,在矽谷各人工智能公司的員工和高管產生激烈的分歧。而這股思潮的信奉者與非信奉者間的針鋒相對,似乎也正成為OpenAI過去一周震驚世界的“宮鬥事件”背後,真正的“無形之手

2024-03-29

次講話中,特斯拉和SpaceX首席執行官埃隆·馬斯克在超級人工智能對人類的潛在影響方面的立場似乎發生令人驚訝的轉變。周四,零重力公司(ZeroGravity)的CEO彼得·戴曼迪斯在X上分享一段3月17日至21日舉行的富足峰會(AbundanceSum

2023-11-21

裂的原因之一。AI安全隱患擔憂加劇Altman下臺引起人們對人工智能界長期存在的風險的關註。有人認為人工智能是一代人中最大的商機,也有人擔心發展太快會帶來危險。罷免Altman的投票結果表明,一場致力於恐懼人工智能風險

2023-06-11

,最近一段時間,一些研究人員和行業領袖不斷警告稱,人工智能(AI)可能會對人類的生存構成威脅。但是,對於AI究竟如何摧毀人類,他們並未詳談。上個月,AI領域的數百名知名人士聯合簽署一封公開信,警告AI有朝一日可

2023-05-06

一位曾任OpenAI安全研究人員的人正在發出警告,提醒人們人工智能可能最終導致人類終結的嚴峻前景。前OpenAI基金會員工保羅·克裡斯蒂亞諾在一個播客節目中說,“我認為人工智能取代人類的可能性大約為10-20%,又或者大多數

2024-06-20

馬克裡德的專訪。在這次深入的對話中,馬斯克分享他對人工智能未來發展的復雜看法,他的一些觀點引發廣泛關註。馬斯克認為,人工智能的發展是一個概率問題,他對此持有既樂觀又悲觀的態度,他引用人工智能領域的領軍

2023-04-14

快科技4月13日消息,近一段時間,隨著人工智能技術的快速發展,對於AI是否會取代人類”的討論也逐漸增加。而巧合的是,在這樣的輿論氛圍下,AI毀滅人類”作為科幻題材作品中曾一度興盛的選題,也重新進入人們的視野。

2024-03-09

備受矚目的人工智能新創公司Anthropic的首席執行官達裡奧-阿莫代(DarioAmodei)去年告訴美國國會,新的人工智能技術很快就能幫助不熟練但心懷惡意的人制造大規模的生物襲擊,比如釋放病毒或有毒物質,造成大范圍的疾病和死

2023-04-18

手,它是一個最大程度上探尋真相、試圖理解宇宙本質的人工智能(AI)。我認為,這可能是實現安全的最佳途徑,因為一個關心解宇宙的AI不可能毀滅人類,因為我們是宇宙中有趣的一部分。”馬斯克和開發ChatGPT的OpenAI頗有淵

2023-04-10

sGPT就決定自己做更多的google搜索。ChaosGPT到底嚇不嚇人?人工智能理論傢一直在擔心另一種類型的人工智能滅絕事件,即人工智能作為某種更無害的東西的副產品殺死所有人類。這一理論被稱為“回形針最大化器”,即一個被編

2023-05-03

近日,英國曼徹斯特大學的科學傢通過模擬地球無線電信號的泄露發現,地球附近各種恒星系統中的外星文明可能很快探測到人類的存在。據解,隨著人類文明的發展,科技越來越發達,全球移動通訊系統的信號向外太空泄露擴

2023-09-10

過的神秘深海生物產下的。據多傢國外媒體報道,近日,美國國傢海洋和大氣管理局(NOAA)的科考船,在阿拉斯加海岸水下3200米處的海床上發現一枚形似金蛋”的不明球體。NOAA的科學傢們也不知道這到底是何物。海洋勘探部門