在業內有“人工智能教父”之稱的計算機科學傢傑弗裡·辛頓(GeoffreyHinton)表示,相較於氣候變化,人工智能(AI)可能是對人類“更緊迫”的威脅。現年75歲的谷歌科學傢辛頓在神經網絡領域長期從事開創性工作,為人工智能技術的發展奠定基礎。不過近日有媒體報道,辛頓已從谷歌離職。
辛頓此前也證實,他之所以離開谷歌,就是為完全自由地說出人工智能所帶來的危險,甚至還說他對自己在人工智能領域所付出的貢獻感到懊悔。
辛頓的工作被認為對當代人工智能系統的發展至關重要。1986年,他與人合著一篇開創性的論文《通過反向傳播誤差來學習表征》,這是人工智能技術基礎神經網絡發展的一個裡程碑。2018年,他被授予圖靈獎,以表彰他的研究突破。
但現在,越來越多的科技前沿人物公開表示,如果機器獲得比人類更強的智能並控制地球,人工智能將對人類生存構成威脅,辛頓就是其中之一。
在周五的采訪中,辛頓表示,我不想貶低應對氣候變化的價值,我不想說,你不應該擔心氣候變化,因為這也是一個巨大的風險,但人工智能的風險確實更加緊迫。
他補充道,人類應對氣候變化,相對而言,更容易提出一些有效的應對策略,比如說減少碳的排放,如果你這樣做,最終一切都會好起來的。但對於人工智能的風險,你根本不知道如何下手。
去年11月,微軟支持的OpenAI公司向公眾推出人工智能聊天機器人ChatGPT,開始一場技術競賽。ChatGPT很快成為歷史上增長最快的應用程序,在兩個月內月活用戶就達到1億。
今年4月份,包括馬斯克在內的許多科技產業人士聯署一封公開信,呼籲所有相關實驗室立即暫停訓練人工智能系統至少6個月。雖然辛頓也擔心這種威脅,但他不同意暫停研究。
辛頓指出,這完全不現實,我認為人工智能技術存在巨大的風險,而且已經非常接近,我們現在應該非常努力地工作,投入大量資源,找出我們能做些什麼。
此前一天,美國總統拜登會見領先的人工智能公司谷歌、微軟、OpenAI和Anthropic的首席執行官。拜登政府警告人工智能技術對公共安全、隱私和民主構成的危險,同時表示對其監管的權力有限。
副總統卡馬拉·哈裡斯稱,這項技術“有可能極大地增加對安全和安保的威脅,侵犯公民權利和隱私,並侵蝕公眾對民主的信任和信心”。她補充說,企業有責任遵守現有的法律,以及“倫理、道德和法律責任,以確保其產品的安全和保障”。
辛頓表示:“科技行業的領導人最解人工智能的風險,政府也必須參與進來。它影響到我們所有人,所以我們都必須考慮如何應對它。”