英国首相苏纳克（Rishi Sunak）宣布计划成立首个人工智能安全研究所。今天早些时候，微软、Google、OpenAI 和 Anthropic 宣布为前沿模型论坛提供 1000 万美元的基金，以确保安全、负责任地开发生成式人工智能。

苏纳克于2023年5月会见了人工智能行业的领导者，即OpenAI、Google和Anthropic，讨论技术的保障措施。与唐宁街代表的会面为确保安全、负责任地发展人工通用智能（AGI）的倡议做了准备。

苏纳克说："在安全可靠的情况下，人工智能有可能带来变革和经济增长。"

在这一进展之后，英国政府宣布将于 11 月 1 日和 2 日举行人工智能安全峰会。此次峰会将汇聚人工智能公司、政府、民间团体和人工智能领域的专家，目标是考虑人工智能的风险，尤其是在发展前沿的风险讨论如何通过国际协调行动降低风险。

此次峰会将重点关注前沿人工智能（Frontier AI），这是一类能力极强的基础模型，其性能与现有模型相当或更胜一筹。

就在峰会召开前一周，英国首相在伦敦的一次演讲中宣布成立人工智能安全研究所，这在世界上尚属首次。根据苏纳克的说法，该研究所将"仔细评估和测试新型人工智能，以便我们了解新模型的能力"。英国政府还就前沿人工智能的风险以及人工智能攻击的规模和速度导致的网络安全漏洞发布了两份讨论文件。这两份文件警告说，在未来，我们可能会看到由人工智能进行和防御的网络攻击，而在每一个步骤中，人类的监督都会被最小化。