英國AI安全峰會首日:中美等28國簽署宣言 馬斯克等談AI監管


當地時間11月1日,英國主辦的首屆全球人工智能(AI)安全峰會在英國佈萊切利公園拉開帷幕。峰會第一天,包括中國、美國、英國在內的28個國傢及歐盟共同簽署《佈萊切利宣言》,承諾以安全、以人為本、值得信賴和負責任的方式設計、開發、部署和使用AI。


宣言重點關註兩個方面,一是識別共同關註的AI安全風險,建立對這些風險的共同科學和基於證據的理解;二是各國制定各自基於風險的政策,以確保此類風險的安全,酌情開展合作。宣言提到,為推進這一議程,各國決定支持一個具有國際包容性的前沿AI安全科學研究網絡,該網絡包含並補充現有和新的多邊、諸邊與雙邊合作,包括通過現有的國際論壇和其他相關舉措,為政策制定和公共利益提供最佳的科學支持。

會議還確認下一屆峰會的主辦方。英國數字部長米歇爾·唐蘭(Michelle Donelan)宣佈之後將再召開兩場AI安全峰會,一場於6個月後由韓國主辦,另一場將在一年內由法國主辦。

據路透社報道,我國科技部副部長吳朝暉在開幕式上稱,中國政府願意加強在AI安全方面的合作,幫助建立一個國際治理框架,秉持相互尊重、平等互利的原則,“國傢不分大小,都享有平等開發和利用人工智能的權利……我們呼籲全球合作,分享人工智能知識,並以開源方式向公眾提供人工智能技術。”


▲我國科技部副部長吳朝暉

美國商務部長吉娜·雷蒙多(Gina Marie Raimondo)稱,美國將成立一個AI安全研究所,以評估所謂“前沿”AI模型的已知和新出現的風險。她在會上發表演講時稱:“我幾乎肯定會呼籲學術界和工業界的許多觀眾加入這個聯盟……我們無法單獨做到這一點,私營部門必須挺身而出。”

雷蒙多補充說,她還將致力於推動美國研究所與英國安全研究所建立正式的合作夥伴關系,這項新工作將由美國國傢標準與技術研究院(NIST)負責。該部門稱,此研究所“將促進AI模型安全、保障和測試標準的制定,制定驗證AI生成內容的標準,並為研究人員提供測試環境,以評估新興AI風險並解決已知影響”。


▲美國商務部長雷蒙多

美國副總統卡瑪拉·哈裡斯(Kamala Harris)當天在倫敦發表演講,介紹美國政府對AI的應對措施。她的演講時機受到一些英國高管和立法者的質疑,他們認為哈裡斯似乎搶AI安全峰會的風頭。

據兩位消息人士透露,哈裡斯已邀請多個研究小組與她一起參加周三在倫敦大使館舉行的閉門活動,這意味著一些與會者可能不得不提前離開佈萊切利公園的峰會。據報道,哈裡斯將在周三晚些時候與蘇納克會面共進晚餐,並將出席周四第二天的峰會。


▲美國副總統哈裡斯

英國政府還在峰會上宣佈,將投資3億英鎊(約合3.64億美元)用於構建新的“AI研究資源”,以支持先進AI模型的研究。資金將主要用於建設兩臺新的超級計算機,分別位於劍橋和佈裡斯托爾,為研究人員提供比英國目前最大的公共AI計算工具容量大30倍以上的資源。

據稱,佈裡斯托爾的“Isambard-AI”超級計算機將包括來自英偉達的5000個先進AI芯片,由惠普構建;而劍橋的“Dawn”超級計算機將通過與戴爾和英國中小企業StackHPC的合作交付,並由1000多個英特爾芯片提供動力。這些機器將從明年夏天開始運行,將用於分析先進的AI模型以測試安全功能,並推動藥物發現和清潔能源方面的突破。

英國首相裡希·蘇納克(Rishi Sunak)在社交媒體平臺X上稱:“前沿AI模型的力量正在呈指數級增長。這項投資將確保英國的科學人才擁有他們所需的工具,以確保最先進的AI模型的安全。”


▲蘇納克在社交媒體平臺X上評論

除各國政府,一些科技頭部企業的高管和研究人員也出席峰會。

埃隆·馬斯克(Elon Musk)稱,希望建立一個“第三方裁判”,能夠監督AI開發公司並在出現問題時發出警報。他在接受記者采訪時說:“我不知道公平的規則是什麼,但在進行監督之前,你必須從洞察力開始。”

GoogleDeepmind聯合創始人穆斯塔法·蘇萊曼(Mustafa Suleyman)告訴記者,他並不認為目前的AI前沿模型會造成任何 “重大災難性危害”,但他談道,隨著AI行業訓練出越來越大的模型,提前做好規劃是有意義的。

結語:28國簽署新宣言,推動AI風險管控議程

此次峰會是首屆全球性質的AI安全峰會,《佈萊切利宣言》的簽署有助於推動全球AI風險管理的進程。

前沿AI模型可能帶來的風險是不可忽視的,需要立法者、科技企業和國際社會共同監督與合作,確保這項技術能夠負責任地造福於所有人。


相關推薦

2023-11-03

人工智能風險監管方面的步伐在加快。當地時間11月1日,英國人工智能安全峰會(ArtificialIntelligenceSafetySummit,AISS)首日,英國政府在位於英格蘭南部的佈萊切利莊園宣佈,多個在人工智能領域領先的國傢和地區,包括美國、歐

2023-11-04

1月2日凌晨,“ChatGPT之父”、OpenAICEO奧特曼(SamAltman)在英國劍橋參加活動時,遭到反AI活動的激進分子的強烈抵制,在大禮堂裡當面被“砸場子”,少數抗議者要求停止AI競賽。OpenAI CEO奧特曼(Sam Altman)一些抗議者甚至在陽臺

2023-11-03

裁判員”。11月2日,全球首屆人工智能(AI)安全峰會在英國佈萊切利公園閉幕後不久,英國首相蘇納克返回倫敦,與特斯拉創始人馬斯克(ElonMusk)進行一場長達40分鐘的對談。兩人在對談中討論AI帶來的風險和政府應如何應對

2023-11-02

11月1日,首屆全球人工智能(AI)安全峰會在英國拉開帷幕,為期兩天的會議在佈萊切利莊園舉行。英國選擇這裡可謂意味深長,這裡是二戰期間盟軍破譯密碼的主要地點。半個多世紀前,有“現代計算機科學與人工智能之父”

2023-11-03

簽署宣言而在剛剛結束的全球人工智能安全峰會上,包括英國、美國和歐盟在內的28個與會國代表,簽署一項具有裡程碑意義的“佈萊切利宣言”,警告最先進的“前沿”人工智能系統所帶來的危險。接下來,第二次會議將於六

2023-11-02

1月2日,當地時間周三,全球首屆人工智能(AI)安全峰會在英國開幕。特斯拉CEO埃隆·馬斯克(ElonMusk)受邀出席此次峰會。他表示,此次峰會希望建立一個“第三方裁判”,監督開發AI的公司,並在他們有擔憂時發出警報。此次峰會

2024-04-13

繼英國在佈萊切利公園舉辦首屆峰會六個月後,韓國將於5月21-22日舉辦第二屆全球人工智能(AI)安全峰會。在周五發表的一份聲明中,政府官員表示,此次活動將以《佈萊切利宣言》為基礎,該宣言是包括美國和中國在內的各

2023-11-06

特曼(SamAltman)。這場由瑞希-蘇納克(Rishi Sunak)領導的英國政府主辦的高規格活動,是繼近一年前推出 ChatGPT 之後,全球有關人工智能安全的討論激烈升級的一年。至少對許多用戶來說,該聊天機器人首次展示最新一代人工智

2023-10-31

北京時間10月31日,三名英國政府官員稱,他們預計特斯拉CEO埃隆·馬斯克(ElonMusk)將出席本周在英國舉行的全球人工智能(AI)安全峰會,並與英國首相蘇納克討論AI風險。此次AI峰會將於11月1日在英國二戰密碼破譯中心佈萊切利園開

2023-11-06

人工智能。在上周的一次人工智能安全峰會上,馬斯克和英國首相蘇納克(Rishi Sunak)再次表示AI是對人類的威脅:“我們第一次遇到這樣的情況:有些東西將比最聰明的人類聰明得多。”他相信,AI終有一天將令所有人失去工作

2023-11-03

億萬富翁企業傢埃隆·馬斯克周四在與英國首相蘇納克的一次廣泛交談中,將人工智能描述為“歷史上最具顛覆性的力量”,盡管有失控的風險,但總的來說是“一股向善的力量”,並且可能成為人類的“好朋友”,尤其是對他

2024-02-06

英國政府周二(2月6日)表示,將斥資逾1億英鎊(約合1.25億美元)啟動九個新的人工智能(AI)研究中心,並對監管人員進行技術培訓。英國科學、創新和技術部(DSIT)在官網發佈的公告中表示,這些資金中的近9000萬英鎊將用

2023-11-02

英國佈萊切利公園正在召開具有裡程碑意義的人工智能峰會,歐盟高官和人工智能領域的專傢將聚集在一起,討論如何制定人工智能行業的安全標準。英國前副首相、Meta現任全球事務總裁NickClegg在峰會開幕前提前表明態度,呼

2024-04-04

們在我們的經濟中得到應用。"本周早些時候,美國和英國簽署一項關於人工智能安全的合作協議。盡管歐盟與美國的合作似乎范圍更廣--因為它不僅涵蓋共同的安全和標準化目標,還旨在通過聯合支持"公益"研究,協