美國參議院推動人工智能安全法案 旨在防止AI模型出現安全漏洞


美國參議院提出一項新法案,要求建立一個數據庫,記錄所有違反人工智能系統的行為,從而追蹤安全問題。由參議員馬克-華納(MarkWarner)和托姆-蒂利斯(ThomTillis)提出的《人工智能安全法案》將在美國國傢安全局建立人工智能安全中心。馬克-華納(MarkWarner)和托姆-蒂利斯(ThomTillis)將在國傢安全局建立一個人工智能安全中心。

該中心將領導研究法案中所說的"反人工智能",即學習如何操縱人工智能系統的技術。該中心還將制定預防反人工智能措施的指南。

該法案還將要求國傢標準與技術研究院(NIST)和網絡安全與基礎設施安全局建立一個人工智能漏洞數據庫,包括"近乎得手的漏洞"。

華納和蒂利斯提出的法案重點關註對抗人工智能的技術,並將其分為數據中毒、規避攻擊、基於隱私的攻擊和濫用攻擊。數據中毒指的是在人工智能模型刮取的數據中插入代碼,破壞模型輸出的方法。它是防止人工智能圖像生成器在互聯網上復制藝術作品的一種流行方法。規避攻擊會改變人工智能模型所研究的數據,以至於模型變得混亂。

人工智能安全是拜登政府人工智能行政命令的關鍵項目之一,該命令指示美國國傢標準與技術研究院(NIST)制定"紅隊"指導方針,並要求人工智能開發人員提交安全報告。所謂"紅隊"(red teaming),是指開發人員故意讓人工智能模型對不應該出現的提示做出反應。

理想情況下,人工智能模型的開發者會對平臺進行安全測試,並在向公眾發佈之前對其進行廣泛的紅隊測試。一些公司如微軟已經創建一些工具,幫助人工智能項目更容易地添加安全防護措施。

《人工智能安全法案》在提交給更大范圍的參議院審議之前,必須經過一個委員會的審議。


相關推薦

2024-05-02

參議院近日提交一項新法案,旨在通過強制創建記錄所有人工智能系統違規行為的數據庫來跟蹤安全問題。該法案由參議員馬克·華納(D-VA)和湯姆·蒂利斯(Thom Tillis)(北卡羅來納州)提出,名為《安全人工智能法案》。根據該法

2023-04-27

國參議院情報委員會主席馬克·華納(MarkWarner)敦促幾傢人工智能(AI)公司或發力AI的科技巨頭的首席執行官們優先考慮安全措施,打擊偏見,從而負責任地推出新技術。“除行業承諾外,有必要在這一領域進行一定程度的監

2022-07-27

北京時間7月27日消息,本周二,美國芯片法案在參議院程序性投票環節以64比32獲得通過,該法案旨在增強美國半導體制造能力。美國政府將提供520億美元補貼本國半導體生產,同時還將為芯片廠提供約240億美元稅收抵免。美國

2022-07-28

洛西出色的選股技巧在最近繼續獲得關註,因為人們認為美國眾議院現任議長經常會在股票交易中站在勝利的一方。在這種背景下,佩洛西最近跟英偉達股票有關的舉動自然吸引很多人的註意。根據佩洛西最近提交的一份定期交

2024-03-14

項法案,禁止中國母公司字節跳動出售TikTok之後,TikTok在美國的命運將掌握在參議院手中,此前喬-拜登總統已經表示,如果參眾兩院推進這項名為《保護美國人免受外國敵對勢力控制應用法案》的法案,他將予以簽署。盡管該

2024-04-19

一項可能將TikTok趕出美國的法案看起來會在參議院茍延殘喘數月,即使眾議院以壓倒性多數票通過該法案。但眾議院議長邁克-約翰遜(MikeJohnson)的一個舉動可能會改變這一局面。除非 TikTok 從其中國母公司字節跳動撤資,否則

2022-07-26

美東時間周一,在美國參議院即將就芯片法案舉行投票前夕,總統拜登召集美敦力公司(MedtronicPLC)和康明斯公司(CumminsInc)的首席執行官等企業領袖及政府官員舉行會議,再次大力促成芯片法案通過。據悉,拜登在會議表示:“國

2024-03-14

美東時間周三(3月13日)稍晚,總部位於美國華盛頓的全球生物技術行業協會代表——生物技術創新組織(BIO)宣佈,將與中國會員藥明康德進行“分離”,剔除其會員資格並終止與其合作。該組織同時也表示,他們將支持參議

2024-04-24

計劃,一項迫使中國公司字節跳動出售TikTok(否則將面臨美國對該平臺的禁令)的法案幾乎確定將成為法律。如果TikTok法案獲得國會兩院通過,總統拜登將簽署該法案。眾議院於周六通過包括TikTok法案在內的對外援助一攬子計劃

2022-12-15

政部長珍妮特-耶倫(Janet Yellen)上個月表示,該應用程序給美國帶來"國傢安全問題"。同時,聯邦通信委員會的五位委員之一呼籲在全國范圍內全面禁止TikTok。TikTok由中國公司ByteDance擁有,然而,TikTok本身並不在中國境內運

2024-03-22

接受過有關該社交媒體應用程序機密簡報的美國參議院議員今天表示,中國政府可以利用TikTok監視美國用戶,並以驚人的速度進行宣傳。參議員們不願透露周三簡報的細節,但表示美國人會對TikTok獲取和跟蹤其個人數據的能力感

2022-07-21

美國參議院今日投票初步通過520億美元的《芯片法案》,為該法案的最終通過鋪平道路。當地時間周二晚,該法案以“64票對34票”的結果清除一個關鍵的程序障礙。這為本周晚些時候或下周進行的最終投票鋪平道路。然後,該

2024-03-10

TikTok在美國又又又又危,而這次或許是最兇險的一次。北京時間3月8日凌晨,美國眾議員能源和商務委員會以50:0的投票結果一致通過字節跳動旗下TikTok的剝離法案。該法案名為《保護美國人免受外國對手控制應用程序侵害法》,

2022-07-27

對關鍵領域科技研發的投資。法案稱,這些關鍵領域包括人工智能、量子信息科學、機器人技術、防災減災、生物技術和網絡安全等。美國參議院商務委員會主席、華盛頓州民主黨參議員坎特維爾(Maria Cantwell)表示,她曾召集