美國參議院提出一項新法案,要求建立一個數據庫,記錄所有違反人工智能系統的行為,從而追蹤安全問題。由參議員馬克-華納(MarkWarner)和托姆-蒂利斯(ThomTillis)提出的《人工智能安全法案》將在美國國傢安全局建立人工智能安全中心。馬克-華納(MarkWarner)和托姆-蒂利斯(ThomTillis)將在國傢安全局建立一個人工智能安全中心。
該中心將領導研究法案中所說的"反人工智能",即學習如何操縱人工智能系統的技術。該中心還將制定預防反人工智能措施的指南。
該法案還將要求國傢標準與技術研究院(NIST)和網絡安全與基礎設施安全局建立一個人工智能漏洞數據庫,包括"近乎得手的漏洞"。
華納和蒂利斯提出的法案重點關註對抗人工智能的技術,並將其分為數據中毒、規避攻擊、基於隱私的攻擊和濫用攻擊。數據中毒指的是在人工智能模型刮取的數據中插入代碼,破壞模型輸出的方法。它是防止人工智能圖像生成器在互聯網上復制藝術作品的一種流行方法。規避攻擊會改變人工智能模型所研究的數據,以至於模型變得混亂。
人工智能安全是拜登政府人工智能行政命令的關鍵項目之一,該命令指示美國國傢標準與技術研究院(NIST)制定"紅隊"指導方針,並要求人工智能開發人員提交安全報告。所謂"紅隊"(red teaming),是指開發人員故意讓人工智能模型對不應該出現的提示做出反應。
理想情況下,人工智能模型的開發者會對平臺進行安全測試,並在向公眾發佈之前對其進行廣泛的紅隊測試。一些公司如微軟已經創建一些工具,幫助人工智能項目更容易地添加安全防護措施。
《人工智能安全法案》在提交給更大范圍的參議院審議之前,必須經過一個委員會的審議。