谷歌前CEO認為人工智能與核彈一樣強大


谷歌前首席執行官埃裡克-施密特將人工智能與核武器相提並論,並呼籲建立類似於使世界上最強大的國傢不互相摧毀的威懾制度。

7月22日,施密特在阿斯彭安全論壇關於國傢安全和人工智能的小組討論中談到人工智能的危險。在回答有關科技界道德價值的問題時,施密特解釋說,他自己在Google公司的早期也曾對信息的力量感到天真。然後,他呼籲科技更好地與它所服務的人的倫理和道德保持一致,並在人工智能和核武器之間做一個怪異的比較。


人工智能和機器學習是一項令人印象深刻且經常被誤解的技術。在很大程度上,它並不像人們認為的那樣聰明。它可以制作出傑作級的藝術品,在《星際爭霸II》中擊敗人類,並為用戶打出基本的電話。然而,試圖讓它完成更復雜的任務,如駕駛汽車穿越大城市,並沒有那麼順利。

施密特談到20世紀50年代和60年代,當時各國外交部門圍繞地球上最致命的武器精心制定一系列控制措施。但是,為讓世界達到制定《禁止核試驗條約》、《第二階段談判協議》和其他具有裡程碑意義的立法的地步,花幾十年的時間進行核爆炸,關鍵是廣島和長崎的毀滅。美國在二戰結束時摧毀的這兩個日本城市殺死數以萬計的人,並向世界證明核武器的永恒恐怖。

我們與這些武器被使用的可能性共處的方式是通過一種叫做"相互確保毀滅"(MAD)的東西,這是一種威懾理論,確保如果一個國傢發射核彈,其他國傢也有可能發射。我們不使用地球上最具破壞性的武器,因為這樣做有可能至少會摧毀全球的文明。

盡管施密特的評論豐富多彩,但我們並不希望或需要人工智能的MAD。首先,人工智能還沒有證明自己接近核武器的破壞力。但身居要職的人害怕這項新技術,而且,通常是出於錯誤的原因。人們甚至建議將核武器的控制權交給人工智能,理論上他們會比人類更好地決定武器的使用。

人工智能的問題不在於它有潛在的摧毀世界核武器的力量。問題在於,人工智能的好壞取決於設計它的人,他們反映創造者的價值觀。人工智能存在著典型的"垃圾進,垃圾出"的問題。種族主義的算法造就種族主義的機器人,所有的人工智能都帶有其創造者的偏見。


相關推薦

2023-02-16

職。賽沙德利認為,對於谷歌來說,由於最近在與微軟的人工智能計劃進行競爭,這對公司來說是一個“脆弱的時刻”。他說谷歌的根本問題不是它的技術,而是它的文化。塞沙德裡說:“在我看來,谷歌有四個核心文化問題。

2022-06-24

一段時間以來,電動汽車一直在挑戰性能的極限,像LucidAir和特斯拉ModelSPlaid這樣的高端產品,其加速度可跟超跑媲美。Polestar承諾,隨著Polestar5的發佈,它將繼續這一趨勢。據悉,Polestar5是它在2020年首次亮相的Precept概念車的量

2023-02-13

管斯利達·拉馬斯瓦米(SridharRamaswamy)上周表示,在新的人工智能搜索時代,微軟已經“擼起袖子”,推出升級版的必應。拉馬斯瓦米表示,現在就斷言人工智能升級版的必應和谷歌搜索將展開激烈競爭還為時過早,但微軟可能

2024-03-20

三星電子公司成立新的研究實驗室,致力於設計通用人工智能(AGI)所需的全新半導體,AGI是人工智能發展的長期願望。該實驗室最初將專註於為大語言模型(LLM)開發芯片,重點是推理(即托管和支持AI模型)。三星電子總裁

2023-12-07

12月7日消息,美國當地時間周三,谷歌發佈其新一代人工智能模型Gemini。Gemini反映谷歌內部多年來在首席執行官桑達爾·皮查伊(SundarPichai)的監督和推動下所做的努力。此前負責Chrome和安卓業務的皮查伊是出名的產品迷。2016年

2023-01-30

據報道,一名谷歌公司前員工說,在妻子生下第一個孩子幾天後,他通過電子郵件得知自己被解雇,他覺得自己是個“犧牲品”。尼古拉斯·杜福(NicholasDufau)是洛杉磯谷歌公司的一名律師,他在領英(LinkedIn)上寫道,他於1月

2023-03-18

示贊同,此前他還稱人類文明未來面臨的最大風險之一是人工智能。馬斯克曾是美國初創公司OpenAI的聯合創始人,OpenAI開發ChatGPT,這是一種所謂的生成型人工智能工具,可以對用戶提示做出類似人類的反應。這位億萬富翁長期

2023-04-18

phabetInc.及谷歌首席執行官SundarPichai在采訪中表示,推動人工智能技術的應用必須受到良好監管,以避免潛在的有害影響。在節目采訪中,對於人工智能AI哪個方面讓他夜不能寐的問題,Pichai說,以有益的方式開發和部署,這很

2023-03-09

,谷歌已經在內部提出要求,在幾個月時間裡將“生成式人工智能”技術集成到所有主要產品中。人工智能本應該是谷歌的優勢。 多年來,谷歌一直在進行各種長遠的技術投資,支撐前一代人工智能聊天機器

2023-03-31

3月31日消息,谷歌頂級人工智能研究員雅各佈德弗林(Jacob Devlin)已經於今年早些時候辭職並加入競爭對手OpenAI。德弗林曾經告訴谷歌高管們,他認為開發Bard的團隊使用來自ShareGPT平臺的信息,如果這樣訓練的話,可能會讓Bard

2023-03-22

始人比爾·蓋茨(BillGates)最近公開表示,OpenAI開發的GPT人工智能模型是1980年現代GUI(圖形桌面環境)出現以來最具革命性的技術進步。蓋茨稱,在現代GUI出現之前人類通過一行行代碼操作計算機。當年蓋茨率先采用GUI,以它為

2023-04-04

出的原則。許多業內人士確實認為,像ChatGPT這樣強大的人工智能的確會對社會構成一定的傷害,但暫停6個月的開發似乎隻是一廂情願,幾乎沒有現實基礎。從OpenAI去年11月開始公測GPT-3以來,生成式人工智能開發的高速列車就從

2022-09-13

據報道,谷歌內部有一個技術團隊專門負責為從地面到太空的高速通訊網絡開發軟件。這個團隊的內部代號是Minkowski。谷歌周一正式對外公佈這個秘密項目,並將其分拆為一傢名為Aalyria的公司。谷歌拒絕提供關於Aalyria的細節信

2023-05-15

據報道,谷歌推出新版搜索引擎,增加AI功能,投資者看好這一變革,谷歌母公司Alphabet股價上漲,兩位聯合創始人的財富瞬間增長180億美元。最新數據顯示,拉裡·佩奇(LarryPage)的凈資產上周增加94億美元,總額達1069億美元;