上周,俄羅斯首都莫斯科舉辦的一場國際象棋公開賽中,一個國際象棋機器人折斷一名7歲男孩的手指。俄羅斯國傢通訊社塔斯社(TASS)報道稱,男孩因犯規被機械臂抓住,似乎是該男孩搶著下一步棋而觸發機器人的行動。俄羅斯BazaTelegram頻道發佈的影片顯示,男孩的手指被機械臂抓住數秒,之後機械臂沒有做出其它的扭轉動作,1名女子及3名男子馬上沖出把男童的手指松開。
莫斯科國際象棋聯合會主席謝爾蓋·拉紮列夫(Sergey Lazarev)7月25日告訴塔斯社,“這個機器人已經在很多地方使用很長時間,但機器人運營商顯然忽略一些缺陷。比賽中孩子在棋盤上做一個動作,他本來應該留給機器人足夠的回應時間,但男孩過於匆忙,於是機器人抓住他的手指。”
拉紮列夫說,“孩子手指打上石膏後,第二天就又上場。”
有媒體對此解讀為機器人AI覺醒,制裁犯規行為。不過目前看來,這純屬誤讀。男孩隻是因為在機器人操作回合將手指放在機器人要下的棋子位置導致意外傷害。另外,這也意味著該機器人的視覺模塊未加入探測人手並安全終止的功能。
拉紮列夫稱,此前國際象棋聯合會曾多次租用該機器人,均未發生事故,國際象棋聯合會本身與該機器人的編程或操作“無關”。
但他也表示,機器人操作人員必須考慮加強保護措施,以免這種情況再次發生。
歷史上的機器人傷人事件
雖然此次意外中,被機器人傷害的男孩並沒有生命危險,但是仍然引發人們對於機器人安全性的擔憂。
事實上,機器人缺乏自己的思維,隻是按照程序做事。大多數時候,當人類擋道時,問題就出現,機器人就像對待任何它正在處理的材料一樣對待他們。這就是為什麼大多數與機器人有關的事故和死亡發生在工廠,在那裡,機器人接近人類工作。相遇通常不會給人類帶來好結果,因為瘦肉顯然不是鋼鐵的對手。
有媒體梳理人類歷史上一些重大的機器人傷人事件,從中可以發現,缺乏必要的安全監管和防護是悲劇發生的重要原因。
其中,美國人羅伯特·威廉姆斯(Robert Williams)是人類歷史上第一個被機器人殺害的人。事故發生在1979年1月25日,美國密歇根州平巖市的福特汽車工廠。威廉姆斯爬上架子取石膏時,被機器人的巨大手臂擊中身亡。具有諷刺意味的是,機器人本應負責取回石膏,但它卻不斷給出關於架子上剩餘石膏數量的錯誤信息,迫使威廉姆斯爬上去。陪審團認定,威廉姆斯的死亡是由松懈的安全措施造成,其中一項措施應該是機器人在人類靠近時發出警告聲。威廉姆斯的傢人獲得1000萬美元的賠償。
2015年,德國包納塔爾的大眾汽車(Volkswagen)工廠也發生一起機器人傷人悲劇,一名未透露姓名的男子被機器人壓死。這名男子當時是安裝機器人團隊的一員,機器人突然抓住他,把他按在金屬板上,男子受重傷,因傷勢過重而死亡。大眾汽車在一份聲明中表示,這起事故由人為失誤造成。
2016年6月,20歲的美國人瑞金娜·埃爾西(Regina Elsea)在婚禮前兩周被機器人撞死。事故發生在位於阿拉巴馬州的韓國獨資工廠阿金美國公司(Ajin USA),該工廠為現代汽車生產零部件。那天,埃爾西和同事試圖修理有故障的機器人,機器人突然自動重啟,把埃爾西推到另一臺機器上。埃爾西嚴重受傷,後搶救無效去世。據調查結果顯示,阿金美國公司為實現利潤最大化,多次違反安全規定。事實上,就在事故發生兩周前,美國勞工部還猛烈抨擊該公司,並就27項安全違規行為罰款270萬美元。
2016年5月7日,美國人約書亞·佈朗(Joshua Brow)成為第一個死於自動駕駛汽車事故的人。當時他駕駛著特斯拉Model S穿過佛羅裡達州的威利斯頓,撞上一輛牽引車。車頂被掀翻後,特斯拉沖出馬路,撞穿兩道柵欄和一根桿子。特斯拉試圖為自己在事故中的過失開脫,公司在一份報告中指出,這是Model S 1.3億英裡內的首次事故,低於9400萬英裡的行業平均水平。該公司還補充說,其汽車的自動駕駛系統並不完美,要求司機把手放在車輪上至少37分鐘,而佈朗的手隻在輪子上停留25秒。美國國傢運輸安全委員會(NTSB)的調查顯示,事故發生時,佈朗和自動駕駛儀都沒有剎車。直到車輛偏離道路,撞到樹上,安全氣囊才打開。
機器人的安全性如何保證
隨著工業生產自動化程度的提高,機器人在工業、交通等領域的廣泛應用仍然是不可阻擋的趨勢。在很多時候,機器人能夠替代人類完成危險、骯臟的工作,提高生產率水平,解決勞動力短缺問題,並減少人類因疲勞而出錯的可能性。那麼,人類又該如何保護自己的血肉之軀不受鋼鐵傷害?
據解,目前,國際標準化組織(ISO)發佈10個工業機器人標準,起草兩個個人護理機器人標準。美國國傢標準協會(American National Standard)和機器人工業協會(Robotics Industries Association)聯合制定詳細的工業機器人安全規定,最近又進行更新,將ISO的指導方針納入。
在自動駕駛方面,美國政府也已經采取積極的措施。目前美國國傢公路交通安全管理局(NHTSA)正在制定一套管理自動駕駛汽車使用的規則。這些規則包括獲得自動駕駛汽車牌照的特殊培訓,以及要求測試自動駕駛車輛的人報告所有事故。
一些機器人公司也在努力改進機器人技術,提高機器人的安全性。例如Cobotect公司為機器人設計安全氣囊,從而保護人們免受尖銳部件的可能傷害。還有一些企業正在研究機器人傳感器,如果機器人設備離人類太近,就會停止工作。
美國安全咨詢公司IOActive的研究人員則表示,安全審計、安全軟件開發生命周期(SSDLC)、加密和安全默認配置是機器人制造商必須采取的措施。
此前,IOActive對全球市面上在售的10款智能機器人進行安全測試,從這些機器人身上發現近50個安全漏洞。漏洞使得攻擊者能夠獲得機器人的完全控制權限,通過機器人的麥克風和攝像頭進行間諜活動、竊取用戶個人數據,甚至造成直接的人身傷害。
不過,比起機器人本身的漏洞和安全缺陷,防范利用機器人實施邪惡目的的不法之徒或許更加困難。美國佈朗大學機器人學院的一篇文章指出,機器人的另一個不利因素是黑客攻擊。人們不僅可以入侵計算機,還可以入侵處於網絡連接中的任何機器——包括具有上述特征的汽車。為說明這種可能性,計算機科學傢查理·米勒(Charlie Miller)和克裡斯·瓦拉錫(Chris Valasek)入侵一輛福特翼虎(Ford Escape),使得在司機已經踩剎車的情況下,車禍也仍然發生。機器人黑客同樣也有可能造成物理傷害。
文章稱,目前尚缺乏有足夠效力的法律對這樣的行為作出規范和懲罰。“當我們歸咎一項犯罪的兇手時,我們通常把它歸咎於一個惡意或粗心大意的人。但這些措辭並不真正適用於機器人,因為機器人是根據編程來行動的,無論是否有意。讓我們的法律適應機器人,可能需要我們思考誰是機器人的代理人。”文章說。