俄烏沖突爆發2周後,數據分析公司Palantir的首席執行官亞歷山大·卡普(AlexanderKarp)向歐洲領導人提出一項建議。在公開信中,他表示歐洲人應該在矽谷的幫助下實現武器現代化。
圖片來自於 getarchive
Karp 寫道,為讓歐洲“保持足夠強大以戰勝外國占領的威脅”,各國需要擁抱“技術與國傢之間的關系,以及尋求擺脫根深蒂固的承包商控制的破壞性公司與聯邦政府部門之間的資金關系”。
而軍隊已經開始響應這項號召。北約於 6 月 30 日宣佈,它正在創建一個 10 億美元的創新基金,將投資於早期創業公司和風險投資基金,以開發人工智能、大數據處理和自動化等“優先”技術。
自俄烏沖突以來,英國推出一項專門用於國防的新人工智能戰略,德國在已向軍方註資 1000 億美元的情況下,再次撥出近 50 億美元用於研究和人工智能。
《I, Warbot: The Dawn of Artificial Intelligence Conflict》的作者,來自倫敦國王學院國防研究的負責人 Kenneth Payne 說道:“戰爭是變革的催化劑”。
俄烏沖突增加將更多人工智能工具推向戰場的緊迫性。受益最多的是像 Palantir 這樣的初創公司,它們希望在軍隊競相使用最新技術更新他們的武器庫時獲利。但隨著技術變得越來越先進,長期存在的關於在戰爭中使用人工智能的倫理問題變得更加緊迫,而限制和監管其使用的前景看起來與以往一樣遙遠。
科技和軍隊之間的關系並不總是那麼友好。 2018 年,在員工抗議和憤怒之後,Google 退出五角大樓的 Maven 項目,該項目試圖建立圖像識別系統以改善無人機襲擊。這一事件引發關於人權和為自主武器開發人工智能的道德性的激烈辯論。
該項目還導致很多知名的 AI 研究人員承諾不研究致命的 AI。其中包括圖靈獎獲得者 Yoshua Bengio,業內領先的 AI 實驗室 DeepMind 的創始人 Demis Hassabis、Shane Legg 和 Mustafa Suleyman。
4 年後的今天,矽谷比以往任何時候都更靠近軍隊。曾單人美國國傢人工智能安全委員會 (NSCAI) 的執行主任,目前為特殊競爭研究項目工作的 Yll Bajraktari 表示不僅僅是大公司,現在很多初創公司也開始涉足該領域。Bajraktari 正遊說讓美國更多地采用 AI。
為什麼選擇 AI
那些銷售軍用 AI 的公司均聲稱它們的技術可以實現廣泛的功能。這些公司表示 AI 可以幫助處理從“平凡”到“致命”的一切,例如篩選目標、處理來自衛星的數據、識別數據中的模式、幫助士兵在戰場上更快做出決定等等。圖像識別軟件可以幫助識別目標。自主無人機可用於對陸地、空中或水上進行監視或攻擊,或幫助士兵比陸地更安全地運送補給品。
Payne 表示,AI 在戰場上的運用仍處於起步階段,軍隊正在經歷一段試驗期,有時候這些技術並不會取得成功。有無數的例子表明,人工智能公司傾向於對技術做出宏大承諾,但事實證明這些技術並沒有像宣傳的那樣發揮作用,而戰區可能是部署人工智能技術最具挑戰性的領域之一,因為相關的培訓數據很少。
無人機和其他監視技術專傢亞瑟·霍蘭德·米歇爾(Arthur Holland Michel)在聯合國裁軍研究所的一篇論文中指出,這可能導致自主系統以“復雜和不可預測的方式”失敗。
盡管如此,許多軍隊依然積極推進 AI 的落地。在 2021 年措辭含糊的新聞稿中,英國軍隊自豪地宣佈,它首次在軍事行動中使用 AI,以提供有關周圍環境和地形的信息。美國正在與初創公司合作開發自動駕駛軍用車輛。未來,美國和英國軍方正在開發的數百甚至數千架自主無人機可能被證明是強大而致命的武器。
許多專傢對此表示擔憂。聯邦貿易委員會人工智能高級顧問兼 AI Now 研究所教員主任梅雷迪思·惠特克 (Meredith Whittaker) 表示,這種推動實際上更多是為豐富科技公司,而不是改善軍事行動。
在與蘭開斯特大學社會學教授 Lucy Suchman 共同為 Prospect 雜志撰寫的一篇文章中
為 Prospect 雜志撰寫的一篇聯合文章中,蘭開斯特大學社會學教授 Lucy Suchman 認為人工智能助推器正在煽動冷戰言論,並試圖創造一種將大型科技公司定位為“關鍵的國傢基礎設施”的設定,因此監管變得非常重要。他們警告說,軍方采用人工智能是一種必然性,而不是它的真正含義:一種涉及道德復雜性和權衡取舍的積極選擇。
人工智能戰爭 chests
隨著圍繞 Maven 的爭議逐漸消退,在過去幾年中,要求更多 AI 防禦的聲音變得越來越響亮。最響亮的聲音之一是Google前首席執行官埃裡克施密特,他是 NSCAI 的主席,並呼籲美國采取更積極的方式來采用軍事人工智能。
NSCAI 在去年的一份報告中概述美國應采取的步驟,以在 2025 年之前加快人工智能的步伐,呼籲美國軍方每年向這些技術投資 80 億美元,否則可能會落後於其他國傢。
美國國防部在 2022 年 3 月的一份報告中表示,美國國防部要求在 2022 年為人工智能提供 8.74 億美元,盡管該數字並未反映該部門的人工智能投資總額。
不僅僅是美國軍方深信這種需求。德國漢堡赫爾穆特施密特大學國防人工智能天文臺聯合主任海科博爾切特表示,歐洲國傢在采用新技術時往往更加謹慎,它們也在人工智能上投入更多資金。
法國和英國已將人工智能確定為一項關鍵的國防技術,歐盟執行機構歐盟委員會已撥出 10 億美元用於開發新的國防技術。