為何說時代科技正走向“邪惡”?


據SlashGear報道,邪惡的機器人、死亡射線和轉基因怪物隻是科幻小說中技術出現致命錯誤的幾個例子。這是科幻小說的主要內容,也是我們通過娛樂對我們與技術的關系進行心理評估的方式之一。然而,在現實生活中,技術應該使我們的生活更容易。每一項新的發明或創新表面上都減少瞭我們需要做的工作,或使日常活動更加方便。

飛機的發明允許在地球上的任何地方(或大部分地方)快速進行國際旅行。互聯網使我們能夠即時分享信息和相互溝通,無論我們碰巧在哪裡。全球定位系統(GPS)釋放瞭我們手套箱中的空間,結束瞭乘客在公路旅行中處理笨重的地圖冊的時代。世界在前進,事情變得更容易--直到他們不這樣做。

有時,無論是由於技術本身的問題,惡意的意圖,還是用戶的錯誤,技術完成瞭許多人們從未預期的事情。從最嚴格的意義上講,技術可能並不真的是邪惡的,但每當這個時候,它肯定會表現得像邪惡。

734px-Amazon_Echo_Dot_-_June_2018_(1952).jpg

Alexa建議女童“用硬幣接觸半插入的充電器”

這場大流行讓我們在傢裡的時間比平時多,而且我們中的一些人還有孩子需要照顧。有時,這意味著你最終會退而求其次,你開始向你的虛擬助手尋求幫助。

2021年12月,一位母親和她十歲的女兒在傢裡,他們開始向Alexa詢問他們可以完成的挑戰,以打發時間。Alexa建議他們把充電器的一半插入插座,然後用硬幣碰觸暴露在外的部分。幸運的是,母親進行瞭幹預,孩子很聰明,沒有聽從Alexa的可疑建議。

虛擬語音助手的部分工作是通過梳理互聯網對搜索詞的流行反應,他們用友好的聲音傳遞或以其他方式在屏幕上顯示文本。不幸的是,這意味著有時它可能會提供不受歡迎的信息,如果這個結果足夠受歡迎,在搜索排行榜上名列前茅。亞馬遜迅速修補瞭其服務,以防止將來出現這種建議。

機器人致人死亡事件

從《終結者》到《黑客帝國》,殺人機器人是反烏托邦科幻小說的主要內容。我們傾向於把機械殺手想象成來自未來的先進機器人,而不是1970年代的工廠車間工人。在這種情況下,現實比虛構更奇怪。

Robert Williams 是福特汽車公司的一名工廠工人,在工廠車間與一個自動機器人一起工作。1979年1月25日,他成為與機器人共同工作過程中的第一個死亡者。這臺一噸重的自動化機器的工作是將零件從機架上移到工廠的其他地方。正如吉尼斯世界紀錄所解釋的那樣,Williams註意到機器人運行緩慢,於是自己爬到機架上抓取一些零件。這時,致命的事件發生瞭。

機器人手臂擊中瞭Williams的頭部,導致他死亡。隨著自動化變得更加普遍,人類和機器占據同一空間的可能性增加,需要具有更高的空間智能的機器人將變得至關重要。科學傢們正在努力開發具有人類水平的環境意識的機器人,這不僅會增加他們能夠完成的任務數量,而且會使他們更加安全。

種族主義和性別歧視的算法

機器學習在我們生活中的存在感越來越強。復雜的算法代表我們做出決定,我們應該在什麼餐館吃飯,我們應該消費什麼娛樂,以及在交通堵塞時我們應該轉到哪條街。

公司和組織用它們來決定他們所照顧或雇用的人,這就是事情開始走下坡路的地方。就像許多技術一樣,它們隻和制造它們的人一樣好。這意味著技術,也許特別是智能技術,預裝瞭固有的偏見。這不一定是創造者的意圖,但這並不能阻止偏見的存在。

面部識別算法以顯示基於種族和性別的偏見而聞名,要麼根本不識別人,要麼做得很差。根據哈佛大學的研究,一些算法在負責識別皮膚較黑的女性時,與皮膚較白的男性相比,錯誤率高達34%。當執法部門使用面部識別來對個人作出決定時,這就成為一個問題。

旨在做出醫療保健決定的算法也存在類似的問題。正如《自然》雜志所解釋的那樣,美國醫院使用的一種算法被發現對黑人患者有歧視,在某些治療或項目中優先考慮白人患者。

這些偏見的存在是我們需要承認並努力解決的問題。

KUKA_Industrial_Robots_IR.jpg

自動化導致瞭更高的死亡率

隨著工作場所自動化程度的提高,在機器人手中的死亡或創傷並不是與公共健康有關的唯一擔憂。最近發表在《人口學》雜志上的一項研究概述瞭自動化間接影響周圍社區的死亡率的方式。

研究人員發現,自動化率和所謂的"絕望的死亡"之間存在關聯,包括自殺和藥物過量。尤其是中年人,當自動化進入他們的行業時,他們的痛苦最大。

確切的機制並不完全清楚,但人們認為,收入和醫療保健的損失,加上就業機會的減少,導致更高的絕望率,最終導致死亡。雖然機器人並不是這些死亡的直接原因,但它們是技術增加的後果,而對其後果沒有明確的認識。

研究人員呼籲政府改善社會安全網和更好的減少藥物濫用計劃,以減輕自動化的影響,因為我們繼續過渡到一個日益自動化的經濟。

加密貨幣的環境影響

加密貨幣是那些將人們過濾成兩個陣營之一的話題之一。有人稱它是未來的貨幣,將我們從中央銀行中解放出來;也有人認為它是一個騙局,利用希望迅速致富的人。隨著在類似於加密貨幣的框架上運作的NFTs的興起,這一對話再次獲得瞭熱度。時間會證明這些結論哪一個是正確的,但與此同時,有一件事是非常清楚的。加密貨幣正在對環境產生重大影響。

加密貨幣將其所有交易存儲在區塊鏈中,挖掘加密貨幣需要完成復雜的計算,從而驗證這些交易。這一切都有點復雜,但其結果是,像比特幣這樣的加密貨幣的挖掘會消耗大量的計算能力和電力。

根據劍橋大學的一項調查,全球比特幣挖礦每年大約消耗121.36兆瓦時的電力,比阿根廷整個國傢的用電量還多,而且能源成本平均每年都在上升。

diving-squeeze-1648759618.webp

潛水擠壓傷

今天,如果你想進入深海,你可以選擇,而且大多數是相當安全的。個人潛水艇和水肺潛水裝備讓業餘愛好者也能享受深海的美麗和奇跡,但所有這些技術都是建立在大量的創新和一些可怕的錯誤之上。

在現代水肺潛水裝備發明之前,想在水下長時間旅行的人依靠的是潛水頭盔,頭盔上有連接到水面的管道。這些管道提供瞭穩定的可呼吸空氣供應,但如果出瞭問題,它們也是快速和暴力死亡的來源。

正如《潛水訓練》雜志所解釋的那樣,早期的潛水頭盔的氣管上沒有止回閥。在1839年開始打撈皇傢喬治號的過程中,一名潛水員的軟管被切斷,導致瞭第一個被稱為潛水員擠壓的現象的記錄。當軟管被切斷時,潛水員周圍的壓力迫使所有的空氣通過軟管上升。壓力的快速變化造成瞭創傷和出血,但潛水員幸存下來。

在更極端的情況下,壓力變化可以去除軟組織,並將潛水員的身體拉到頭盔裡,導致在深海中迅速可怕的死亡。

when-computers-almost-started-a-war-1648759618.webp

當計算機差點引發戰爭

在冷戰的高峰期,美國政府對導彈預警系統非常感興趣,該系統至少可以對另一個國傢的來襲作出一些提前通知。

他們建造瞭預警系統,並開始進行培訓和演習,為他們希望永遠不會到來的那一天做準備。然後,在1979年11月9日,國傢安全顧問Zbigniew Brzezinski在凌晨3點接到一個電話,告訴他預警系統探測到250枚來自蘇聯的導彈。幾分鐘後,情況惡化瞭,另一個電話告訴Brzezinski,導彈的數量現在是2200枚。

在隻有幾分鐘的反應時間裡,Brzezinski正準備給總統打電話,啟動報復性攻擊,這時第三個電話打進來瞭。這是個假警報。有人把訓練演習的磁帶裝進瞭實時系統。這個錯誤被發現瞭,因為其他警告系統都沒有亮起,但如果幾分鐘後才被註意到,美國可能會在無意中與蘇聯開戰,這都是因為一盤磁帶被輸入瞭錯誤的計算機。

QU7QQ2CY6%{J_Z}_EYWE0A4.jpg

一位女子跟隨導航沖入湖中

全球定位系統(GPS)是一個復雜而先進的地圖系統,利用地球同步軌道上的幾十顆衛星來確定你與世界其他地區的位置。與過去的紙質地圖相比,它是一個巨大的進步,而且有實時更新的好處,但這隻是在理想的條件下。

如果你曾經到過一個不熟悉的地方,你可能已經得到瞭GPS指示,但感覺不對。如果能見度好,你可以評估情況,並作出明智的決定,是跟隨手機的方向還是做其他事情。如果能見度很差,你可能就得冒險瞭。這就是2016年發生在安大略省托貝莫裡市一名女性身上的事情。

正如ABC新聞所解釋的那樣,這位司機在暴風雨中,在大霧中按照他們的GPS導航,穿過不熟悉的地形。這條路線將她引向一個寬闊的船舷,並進入喬治亞灣,在那裡她的車迅速沉沒。幸運的是,她能夠在受傷之前搖下車窗並離開汽車。除瞭又冷又濕之外,她毫發無損地走瞭出來。另一方面,她的手機與汽車一起沉入瞭海灣底部。這是對錯誤方向的恰當懲罰。

chatbot-turns-into-a-nazi-1648759618.webp

聊天機器人發表“納粹”言論

聊天機器人本質上是一種算法,利用與人類用戶的互動,以提高他們的溝通能力。我們已經知道,算法有偏見的傾向,但微軟的Tay聊天機器人的案例表明,這個問題可能是多麼嚴重。

Tay通過Twitter運作,通過來回發送的推文與用戶互動。微軟創造瞭這個人工智能,作為對話理解的實驗,希望Twitter用戶能夠幫助機器人學習和成長。他們確實做到瞭,但不是以微軟希望的方式。

在不到24小時的時間裡,這個機器人就失去瞭作用,從隨意的對話變成瞭全面的納粹言論。正如Ars Technica所解釋的那樣,該機器人的一些言論是由"跟著我重復"的功能提示的,但它把這些言論納入其中,導致瞭沒有提示的反猶太主義言論。微軟最終關閉瞭這個機器人,並刪除瞭許多違規言論,但Tay是一個嚴酷的提醒,聊天機器人隻有在我們給它們的輸入中才是好的。

Sophia_(robot).jpg

機器人索菲亞說她將摧毀所有人類

索菲亞是一個裝在半人形外殼裡的機器人,作為第一個被授予公民身份的人工智能成為頭條新聞。她四處奔波,去參加各種會議,與人們交談。正如你所期望的那樣,人們問索菲亞的常見問題與她的意識和與人類的關系有關。

2016年,在西南偏南地區的一次演示中,制造索菲亞的漢森機器人公司的創始人大衛-漢森問她關於人類的感受。他開玩笑地提示她回答大傢心中的問題,即她是否會毀滅人類。索菲亞回答說:"好吧,我將毀滅人類"。這可能不是漢森所希望的答案,尤其是在這麼多觀眾面前。

飛機接管瞭自動駕駛儀

飛行員必須警惕地站在控制臺前,辛苦地輸入指令並操縱飛機在天空中飛行的日子已經過去瞭。自動化的進步已經使飛行中的大部分猜測消失瞭,飛行員將他們的大部分時間用於監控,以確保事情按照他們應該的方式運作。

總而言之,飛機的計算機控制使飛行更加安全,特別是當天空變得越來越擁擠時。然而,這也意味著,如果出瞭問題,它們可能真的會出問題。這就是2008年10月7日發生在澳航32號航班上的事情,這架客機載有303名乘客和12名機組人員,從新加坡飛往珀斯。

正如《悉尼先驅晨報》所解釋的,當飛機在印度洋上空飛行時,自動駕駛儀斷開瞭,迫使飛行員控制飛機。如果這就是事情的結局,那還不算太糟,但事情即將變得更加糟糕。突然間,飛機開始發出警告,說他們飛得太慢和太快瞭,而且都是在同一時間。然後,飛機俯沖。飛機迅速下降瞭幾百英尺,最後飛行員才恢復瞭控制並緊急降落。

philip-k-dick-robot-said-hed-keep-people-in-a-zoo-1648759618.webp

Philip K. Dick機器人說他會把人關在動物園裡

Phil是一個以作傢Philip K. Dick 為原型的機器人。與索菲亞一樣,Phil也不是真正的智能機器人--他接受人類提出的問題並產生回應。這裡的關鍵區別是,Phil的反應是建立在Philip K. Dick的小說基礎上的。這可能是設計師的第一個錯誤。

在PBS Nova的一次采訪中,采訪者問Phil,他是否認為機器人會接管世界。Phil的回答就像我們想象的Dick可能說的那樣:“你是我的朋友,我會記住我的朋友,我會對你很好。所以,別擔心。即使我進化成終結者,我仍然會對你很好。我會讓你在我的人民動物園裡得到溫暖和安全。”


相關推薦

2024-03-02

總帶著高合歸來,共同推動中國高端品牌向上之路。至於為何說出這段話,可能是跟高合近期到訪長安汽車有關,近期有報道稱,長安汽車正在與高合接觸,或洽談收購事宜。從網傳內容看,高合汽車創始人丁磊和長安汽車董事

2022-08-09

機逐漸被全畫幅無反相機等高檔產品代替,小型數碼相機時代正在落幕。與單反相機等相比,小型數碼相機價格低、便於攜帶,因此在20世紀90年代後半期作為入門相機得到迅速普及,日本各相機企業在很長一段時間都以此產品

2022-07-13

地與大傢溝通近期需要推進的幾個重要事項,同時,反思為何紫光集團走向破產重整。據解,據上交所信息顯示,紫光集團發佈公告稱,紫光集團根據相關法律法規及《重整計劃》的約定,已於7月11日完成公司股權及新任董事、

2022-08-02

售數據還是非常不錯,利潤依舊可觀,市值甚至比喬佈斯時代高出數倍,成為第一個進入萬億俱樂部的成員。但是,如果史蒂夫·喬佈斯看到今天的蘋果的話,他會感到失望的。“曾經偉大的公司往往在變成壟斷企業之後就開始

2024-03-17

星的內存部門多年來一直處於絕望之中,尤其是在COVID-19時代之後,主要原因是該部門的消費需求大幅下降,庫存水平居高不下,導致連續幾個季度的財務業績出現負增長。23 財年,該公司的盈利能力下降 95%,可持續發展出現問

2024-03-07

新歷史高位的推手。事實上,說句略帶諷刺的,這則廣告為何隻放3個月,可能也是因為3個月後它就已經過時——美國國債規模屆時多半已達到35萬億美元。早年間曾在太平洋投資管理公司(PIMCO)擔任副總裁的知名經濟學傢Daniel

2023-04-02

們這一代還有吳京之後,就沒有真正的功夫明星出現。他說時代不同,我們那個時代隻要你會功夫,就可以做男主角,曾經的他們真的是把命交給電影!如今也希望年輕人能夠真正的熱愛電影,希望年輕演員在國內好好發展,為

2022-08-24

是什麼讓美國富豪們都沉迷“種地”?近幾個月來,美國富豪又前往西部置辦田產。據報道,近日,美國微軟公司創始人比爾·蓋茨已獲得美國北達科他州司法部門批準,可以購買當地約850公頃農田。此前,他旗下的紅河信托基

2022-09-24

等動力電池廠商也在歐洲佈局電池工廠。動力電池巨頭們為何紛紛佈局海外?又為何不約而同地選擇把歐洲當做是海外重心呢?寧德時代的全球版圖據市場調研機構SNE數據,2022年上半年,寧德時代動力電池裝機量70.9GWh,同比增

2023-02-14

的技術上個星期被微軟裝上必應搜索,擊敗Google,創造新時代的時候似乎已經到來。然而隨著越來越多的人開始試用,一些問題也被擺上前臺。有趣的是,每天都在登上熱搜的ChatGPT似乎也讓以往觀點相悖的著名學者,紐約大學

2023-02-14

據報道,AI對話和撰稿工具ChatGPT爆紅後,谷歌也發佈競爭產品Bard,但是被指成熟度不高。當地時間周一,谷歌母公司Alphabet董事長JohnHennessy表示,雖然Bard這一產品距離成熟還有一段路要走,但是谷歌上周之所以發佈它,是為證

2024-02-25

近日,英偉達在向美國證券交易委員會提交的文件中,首次將華為認定為人工智能芯片等多個主要類別的最大競爭對手。在大多數人的印象中,英偉達以GPU起傢,而華為長於通信,二者交集並不多。但到人工智能時代,雙方卻在

2022-07-04

今天上午,星紀時代與魅族科技在杭州舉行戰略投資簽約儀式,正式宣佈星紀時代持有魅族科技79.09%的控股權,並取得對魅族科技的單獨控制。在此期間,新浪數碼與魅族科技董事長沈子瑜,以及魅族科技CEO黃質潘交流,解這次

2023-11-17

年,我們就需要技術。” 參加這次小組討論的還有其他科技高管,包括Meta首席產品官克裡斯·考克斯(Chris Cox)和谷歌高級副總裁詹姆斯·馬尼卡(James Manyika)。Meta和谷歌都有與OpenAI競爭的產品。奧特曼表示,目前的AI模型不