美國和英國同意合作監控先進人工智能模型的安全風險。將合作開展研究,並至少進行一次聯合安全測試。兩國都表示,在使用人工智能模型時,安全是首要關註的問題。美國總統喬-拜登關於人工智能的行政命令要求開發人工智能系統的公司報告安全測試結果。與此同時,英國首相蘇納克(RishiSunak)宣佈成立英國人工智能安全研究所,並表示Google、Meta和OpenAI等公司必須允許對其工具進行審查。
兩國人工智能安全研究所之間的協議立即生效。美國商務部長吉娜-雷蒙多(Gina Raimondo)表示,美國政府"致力於與其他國傢發展類似的夥伴關系,在全球范圍內促進人工智能安全"。
雷蒙多在一份聲明中說:"這種合作關系將加速我們兩傢機構在各種風險方面的工作,無論是對我們的國傢安全還是對我們更廣泛的社會面。"
通過該協議,兩國承諾在技術研究、人員交流和信息共享方面開展合作。
美國和英國的一個潛在合作夥伴是歐盟,歐盟通過自己的人工智能系統使用全面法規。歐盟的人工智能法要求運行強大的人工智能模型的公司遵守安全標準。
英國的人工智能安全研究所是在 11 月的全球人工智能峰會前夕成立的,包括美國副總統卡馬拉-哈裡斯在內的多位世界領導人在峰會上討論如何利用並在可能的情況下對該技術進行跨境監管。
英國已經開始對一些模型進行安全測試,但目前還不清楚它是否能獲得最近發佈的版本。一些人工智能公司敦促英國人工智能安全研究所進一步明確時間表,以及在發現模型存在風險時的下一步措施。