站長之傢(ChinaZ.com) 5月2日 消息:參議院近日提交一項新法案,旨在通過強制創建記錄所有人工智能系統違規行為的數據庫來跟蹤安全問題。該法案由參議員馬克·華納(D-VA)和湯姆·蒂利斯(Thom Tillis)(北卡羅來納州)提出,名為《安全人工智能法案》。
根據該法案,將在國傢安全局建立人工智能安全中心,領導“反人工智能”研究並制定防止反人工智能措施的指南。
此外,法案要求美國國傢標準與技術研究院(NIST)以及網絡安全和基礎設施安全局創建人工智能違規數據庫,包括“未遂事件”。華納和蒂利斯重點關註對抗人工智能的技術,將其分類為數據中毒、逃避攻擊、基於隱私的攻擊和濫用攻擊。
人工智能安全已成為拜登政府人工智能行政命令中的關鍵項目之一,指示NIST制定“紅隊”指導方針,並要求人工智能開發人員提交安全報告。為確保人工智能模型的安全性,開發人員應進行廣泛的紅隊測試。一些公司如微軟已經創建工具來幫助為人工智能項目添加安全護欄。
《安全人工智能法案》目前需通過一個委員會審議後,方可提交至更大的參議院審議。