美國和英國將合作測試人工智能安全威脅模型


美國和英國同意合作監控先進人工智能模型的安全風險。將合作開展研究,並至少進行一次聯合安全測試。兩國都表示,在使用人工智能模型時,安全是首要關註的問題。美國總統喬-拜登關於人工智能的行政命令要求開發人工智能系統的公司報告安全測試結果。與此同時,英國首相蘇納克(RishiSunak)宣佈成立英國人工智能安全研究所,並表示Google、Meta和OpenAI等公司必須允許對其工具進行審查。

兩國人工智能安全研究所之間的協議立即生效。美國商務部長吉娜-雷蒙多(Gina Raimondo)表示,美國政府"致力於與其他國傢發展類似的夥伴關系,在全球范圍內促進人工智能安全"。

雷蒙多在一份聲明中說:"這種合作關系將加速我們兩傢機構在各種風險方面的工作,無論是對我們的國傢安全還是對我們更廣泛的社會面。"

通過該協議,兩國承諾在技術研究、人員交流和信息共享方面開展合作。

美國和英國的一個潛在合作夥伴是歐盟,歐盟通過自己的人工智能系統使用全面法規。歐盟的人工智能法要求運行強大的人工智能模型的公司遵守安全標準。

英國的人工智能安全研究所是在 11 月的全球人工智能峰會前夕成立的,包括美國副總統卡馬拉-哈裡斯在內的多位世界領導人在峰會上討論如何利用並在可能的情況下對該技術進行跨境監管。

英國已經開始對一些模型進行安全測試,但目前還不清楚它是否能獲得最近發佈的版本。一些人工智能公司敦促英國人工智能安全研究所進一步明確時間表,以及在發現模型存在風險時的下一步措施。


相關推薦

2024-04-04

在制定戰略以應對強大的人工智能技術所帶來的挑戰和機遇方面,大西洋兩岸的立法者之間的合作在不斷加強。歐盟和美國預計將在周五舉行的歐盟-美國貿易與技術理事會(TTC)會議上宣佈在人工智能領域開展合作。TTC是幾年

2022-12-11

機"。據報道,這種新飛機將攜帶最新的武器,並內置人工智能。英國目前擁有"臺風"和F-35總共大約180架噴氣戰鬥機,其中包括航母上的F-35。意大利擁有"龍卷風"、"臺風"和F-35,以及對地攻擊的AMX,總和

2024-05-12

英國安全研究所(U.K.SafetyInstitute)是英國最近成立的人工智能安全機構,該機構發佈一個工具集,旨在"加強人工智能安全",使工業界、研究機構和學術界更容易開展人工智能評估。該工具集名為Inspect,采用

2023-11-03

當地時間11月1日,英國主辦的首屆全球人工智能(AI)安全峰會在英國佈萊切利公園拉開帷幕。峰會第一天,包括中國、美國、英國在內的28個國傢及歐盟共同簽署《佈萊切利宣言》,承諾以安全、以人為本、值得信賴和負責任

2023-11-06

本周三和周四,來自全球27個國傢政府的代表以及頂級人工智能公司的負責人齊聚倫敦附近的佈萊切利公園,參加全球首次人工智能安全峰會。與會者包括美國和中國政府代表、埃隆-馬斯克(ElonMusk)和OpenAI首席執行官山姆-奧特

2024-04-13

辦首屆峰會六個月後,韓國將於5月21-22日舉辦第二屆全球人工智能(AI)安全峰會。在周五發表的一份聲明中,政府官員表示,此次活動將以《佈萊切利宣言》為基礎,該宣言是包括美國和中國在內的各國就人工智能安全問題達

2023-12-08

美國司法部起訴兩名與俄羅斯聯邦安全局(FSB)有關聯的黑客,指控他們針對政府官員開展長達數年的網絡間諜活動。司法部周四指控聯邦安全局情報部門官員魯斯蘭-亞歷山大羅維奇-佩列季亞特科(RuslanAleksandrovichPeretyatko)和

2023-11-27

該公司準備在全球推出這項技術的跡象。自2020年以來,美國和加拿大的特斯拉車主已能使用“完全自動駕駛”系統的測試版,但馬斯克在將該技術引入其他市場時遇到困難。“在美國,很多事默認為是合法的,”去年馬斯克表

2023-10-27

英國首相蘇納克(RishiSunak)宣佈計劃成立首個人工智能安全研究所。今天早些時候,微軟、Google、OpenAI和Anthropic宣佈為前沿模型論壇提供1000萬美元的基金,以確保安全、負責任地開發生成式人工智能。蘇納克於2023年5月會見人

2023-03-14

美國、英國和澳大利亞政府發表一份聯合聲明,概述向澳大利亞皇傢海軍(RAN)提供核動力攻擊潛艇的AUKUS條約計劃,其中包括開發英國設計的新型AUKUS級潛艇,這將涉及美國和英國核技術的前所未有的共享。在2021年9月簽署的AUK

2023-12-08

眼"國傢之間實現類似雲基礎設施的互操作性。他還對人工智能算法在協助情報機構方面的有效性表示懷疑。盡管取得進步,但安全分析人員在工作中仍然時刻擔心會忽略關鍵信息,希勒認為,依靠人工智能並不能保證避免此

2023-04-20

個由俄羅斯軍事情報部門運作的國傢支持的黑客組織,據美國和英國政府稱,黑客正在利用思科路由器中一個六年前的漏洞來部署惡意軟件和進行監視。在周二發佈的一份聯合公告中,美國網絡安全機構CISA與聯邦調查局、國傢

2024-05-08

tSupp的幕後黑手,也是LockBit勒索軟件的管理者和開發者。美國司法部也宣佈對Khoroshev的起訴,指控他犯有計算機犯罪、欺詐和敲詐勒索罪。司法部長梅裡克-B-加蘭(Merrick B. Garland)在公告中說:"今天,我們將更進一步,起訴

2022-07-24

美國司法部(DoJ)和英國內政部在一份聯合新聞稿中表示,美國和英國已經簽署一項數據訪問協議,允許兩國的執法機構向對方索取用戶互聯網數據。該協議是在2019年作為CLOUD法案的一部分起草和簽署的,用於協助各國打擊包括