過去幾個月裡,人工智能系統的突然崛起和進步帶來對其對社會潛在有害影響的擔憂。人工智能不僅可能威脅到人類的工作和創造力,而且智能機器在戰爭中的使用也可能帶來災難性的後果。為應對這一危險,上周舉行首屆全球軍事領域負責任的人工智能峰會(REAIM),各國簽署一項協議,將負責任地使用人工智能置於政治議程的更高位置。
上周由荷蘭和韓國在海牙共同主辦的REAIM會議有來自60多個國傢的代表參加,其中包括中國。部長、政府代表、智囊團和工業/民間組織參加會談。俄羅斯沒有被邀請參加,而烏克蘭選擇不出席。
除以色列外,所有與會者簽署的行動呼籲書確認,各國承諾根據"國際法律義務,以不破壞國際安全、穩定和問責制的方式"發展和使用軍事人工智能。
美國負責軍備控制的副國務卿邦妮-詹金斯呼籲在軍事情況下負責任地使用人工智能。詹金斯說:"我們邀請所有國傢與我們一起執行國際規范,因為它涉及到人工智能的軍事發展和使用自主武器。我們想強調的是,我們願意與任何有興趣加入我們的國傢接觸。"
中國代表談踐在峰會上說,各國應"反對通過人工智能尋求絕對的軍事優勢和霸權",並通過聯合國開展工作。
簽署國同意解決的其他問題包括軍事人工智能的可靠性,其使用的意外後果,升級風險,以及人類需要參與決策過程的方式。
2019年,國防部表示,在自主武器系統是否向實戰目標開火的問題上,人類將始終擁有最終決定權。至於聲明中提到的那些意外後果,一些人擔心印度對人工智能驅動的軍事系統的推動可能會通過增加先發制人的打擊風險而導致與巴基斯坦的核戰爭。
一些與會者確實註意到在沖突中使用人工智能的好處,特別是在烏克蘭,機器學習和其他技術被用來抵禦一個更大、更強大的侵略者。
"想象一下,一枚導彈擊中一座公寓樓,"荷蘭副首相沃普克-霍克斯特拉說。"在一瞬間,人工智能可以檢測到它的影響,並指出幸存者可能所在的位置。更令人印象深刻的是,人工智能可以在第一時間攔截導彈。然而,人工智能也有可能在幾秒鐘內摧毀它。"
批評者說,該聲明沒有法律約束力,也沒有解決圍繞人工智能在軍事沖突中的使用的許多其他問題,包括人工智能引導的無人機。
上周,洛克希德-馬丁公司(Lockheed Martin)透露,其新的訓練飛機由人工智能飛行超過17個小時,標志著人工智能首次以這種方式參與到戰鬥的飛機上,這引起人們對人工智能在戰爭中許多潛在應用的擔憂。在其他地方,前Google首席執行官和Alphabet主席埃裡克-施密特說,人工智能可能對戰爭產生類似於引入核武器的影響。