AI教父:人工智能對世界的威脅比氣候變化“更緊迫”


在業內有“人工智能教父”之稱的計算機科學傢傑弗裡·辛頓(GeoffreyHinton)表示,相較於氣候變化,人工智能(AI)可能是對人類“更緊迫”的威脅。現年75歲的谷歌科學傢辛頓在神經網絡領域長期從事開創性工作,為人工智能技術的發展奠定基礎。不過近日有媒體報道,辛頓已從谷歌離職。

1200x-1.jpg

辛頓此前也證實,他之所以離開谷歌,就是為完全自由地說出人工智能所帶來的危險,甚至還說他對自己在人工智能領域所付出的貢獻感到懊悔。

辛頓的工作被認為對當代人工智能系統的發展至關重要。1986年,他與人合著一篇開創性的論文《通過反向傳播誤差來學習表征》,這是人工智能技術基礎神經網絡發展的一個裡程碑。2018年,他被授予圖靈獎,以表彰他的研究突破。

但現在,越來越多的科技前沿人物公開表示,如果機器獲得比人類更強的智能並控制地球,人工智能將對人類生存構成威脅,辛頓就是其中之一。

在周五的采訪中,辛頓表示,我不想貶低應對氣候變化的價值,我不想說,你不應該擔心氣候變化,因為這也是一個巨大的風險,但人工智能的風險確實更加緊迫。

他補充道,人類應對氣候變化,相對而言,更容易提出一些有效的應對策略,比如說減少碳的排放,如果你這樣做,最終一切都會好起來的。但對於人工智能的風險,你根本不知道如何下手。

去年11月,微軟支持的OpenAI公司向公眾推出人工智能聊天機器人ChatGPT,開始一場技術競賽。ChatGPT很快成為歷史上增長最快的應用程序,在兩個月內月活用戶就達到1億。

今年4月份,包括馬斯克在內的許多科技產業人士聯署一封公開信,呼籲所有相關實驗室立即暫停訓練人工智能系統至少6個月。雖然辛頓也擔心這種威脅,但他不同意暫停研究。

辛頓指出,這完全不現實,我認為人工智能技術存在巨大的風險,而且已經非常接近,我們現在應該非常努力地工作,投入大量資源,找出我們能做些什麼。

此前一天,美國總統拜登會見領先的人工智能公司谷歌、微軟、OpenAI和Anthropic的首席執行官。拜登政府警告人工智能技術對公共安全、隱私和民主構成的危險,同時表示對其監管的權力有限。

副總統卡馬拉·哈裡斯稱,這項技術“有可能極大地增加對安全和安保的威脅,侵犯公民權利和隱私,並侵蝕公眾對民主的信任和信心”。她補充說,企業有責任遵守現有的法律,以及“倫理、道德和法律責任,以確保其產品的安全和保障”。

辛頓表示:“科技行業的領導人最解人工智能的風險,政府也必須參與進來。它影響到我們所有人,所以我們都必須考慮如何應對它。”


相關推薦

2024-04-13

辦首屆峰會六個月後,韓國將於5月21-22日舉辦第二屆全球人工智能(AI)安全峰會。在周五發表的一份聲明中,政府官員表示,此次活動將以《佈萊切利宣言》為基礎,該宣言是包括美國和中國在內的各國就人工智能安全問題達

2023-05-27

巨頭新聞集團CEO羅伯特湯姆森(Robert Thomson)本周警告稱,人工智能(AI)的崛起可能會對新聞業造成“致命性破壞”。這一表態呼應之前的一項可怕預測,即人類可能在各種知識型行業裡被拋棄。湯姆森周四出席在紐約舉行的國際新

2023-11-09

盡管對人工智能的擔憂聲音此起彼伏,但企業領導人似乎並不十分擔心這個問題,至少最近一項針對2800名經理和高管的新調查顯示的結果是這樣。人工智能不僅不是他們認為公司面臨的最大風險,甚至沒有進入前20名。管理咨詢

2022-08-01

在也門,這個傳統行業正面臨消失的威脅。也門出產一種世界聞名的名貴蜂蜜——錫德蜂蜜。這種蜂蜜由生長在也門和沙特阿拉伯山區的錫德樹花釀成。由於采集距離長,一年隻能采集兩次。采收困難以及被認為具有特殊的藥用

2023-11-14

"紅線"社區也會比周邊地區高出 12 度左右。隻要世界上最大的石油和天然氣生產國美國和其他國傢繼續使用化石燃料,所有這些風險都會增加。自工業革命以來,全球升溫略高於 1 攝氏度,報告稱,升溫 2 攝氏度將使氣

2023-02-06

倒計時擴大到包括所有人為的生存威脅,增加氣候變化、人工智能、戰爭和全球流行病等因素。在過去的三年裡,末日始終停留在距離午夜還有100秒的時候,徘徊在迄今為止最接近人類滅絕的時間點。現在,由於俄烏沖突風險越

2023-04-11

整個這一時期,這些海岸線的海平面上升速度異常地高於世界其他地區。參與該研究的研究人員說,由於氣候變暖和風向變化,這一地區的水域一直在迅速擴大。美國海岸線上的這種海平面加速上升的速度令人擔憂,因為美國境

2022-07-25

從瑞士阿爾卑斯山的一條冰川涓涓細流開始,迅速轉變為世界上工業化程度最高的水道之一。當它蜿蜒穿過法國南部走向地中海時,其冰冷的水被吸入鍋爐,通過管道作為冷卻劑被吸走,並被轉用於農業。在它最大的客戶中,有

2023-02-17

不夠,地球正日益面臨達到臨界點的風險。格陵蘭冰蓋是世界上除南極冰蓋之外的唯一冰蓋,面積約177萬平方公裡,相當於格陵蘭島面積的逾80%。據科學傢測算,格陵蘭冰蓋全部融化後可使海平面上升7.4米。自工業化時代以來,

2024-02-13

控制野火。這一切都將空氣污染對當地的影響與更廣闊的世界所發生的事情聯系在一起,同時還要擔心你的鄰居可能會排放什麼。去年,加拿大的野火將一縷縷濃煙吹向美國東北部,導致紐約市一度成為全球空氣質量最差的城市

2022-11-09

美國升溫的速度比整個世界都快,使這個國傢已經非常容易受到氣候變化的影響。根據最近發佈的一份重要的國傢氣候報告草案,"美國人最珍視的事物正處於危險之中。這包括美國人的食物和水的供應,珍惜的傳統和

2023-04-03

據報道,四名人工智能專傢的研究結果被一封公開信引用,公開信獲得埃隆·馬斯克聯合簽名並要求緊急暫停研究人工智能,專傢們對此表示擔憂。截至當地時間上周五,這封日期為3月22日的公開信已獲得超過1800個簽名。信中呼

2022-08-16

有什麼變化,但這些電器已經對地球上生命構成越來越大的威脅。大多數現代空調消耗大量能源,在炎熱夏天給電網帶來壓力,並使用有害化學物質,稱為制冷劑,將熱量困在大氣中。為應對氣候變化,一些專傢說現在是時候改

2023-03-23

公司聯合創始人比爾·蓋茨(BillGates)周二表示,OpenAI的GPT人工智能模型是他自1980年首次看到現代圖形桌面環境(GUI)以來,最具革命性的技術進步。以下是比爾蓋茨《人工智能時代已經開始》文章全文:人工智能時代已經開始在我