英國首相蘇納克（RishiSunak）宣佈計劃成立首個人工智能安全研究所。今天早些時候，微軟、Google、OpenAI和Anthropic宣佈為前沿模型論壇提供1000萬美元的基金，以確保安全、負責任地開發生成式人工智能。
蘇納克於2023年5月會見人工智能行業的領導者，即OpenAI、Google和Anthropic，討論技術的保障措施。與唐寧街代表的會面為確保安全、負責任地發展人工通用智能（AGI）的倡議做準備。
蘇納克說："在安全可靠的情況下，人工智能有可能帶來變革和經濟增長。"
在這一進展之後，英國政府宣佈將於 11 月 1 日和 2 日舉行人工智能安全峰會。此次峰會將匯聚人工智能公司、政府、民間團體和人工智能領域的專傢，目標是考慮人工智能的風險，尤其是在發展前沿的風險討論如何通過國際協調行動降低風險。
此次峰會將重點關註前沿人工智能（Frontier AI），這是一類能力極強的基礎模型，其性能與現有模型相當或更勝一籌。
就在峰會召開前一周，英國首相在倫敦的一次演講中宣佈成立人工智能安全研究所，這在世界上尚屬首次。根據蘇納克的說法，該研究所將"仔細評估和測試新型人工智能，以便我們解新模型的能力"。英國政府還就前沿人工智能的風險以及人工智能攻擊的規模和速度導致的網絡安全漏洞發佈兩份討論文件。這兩份文件警告說，在未來，我們可能會看到由人工智能進行和防禦的網絡攻擊，而在每一個步驟中，人類的監督都會被最小化。