本周三和周四，来自全球 27 个国家政府的代表以及顶级人工智能公司的负责人齐聚伦敦附近的布莱切利公园，参加全球首次人工智能安全峰会。与会者包括美国和中国政府代表、埃隆-马斯克（Elon Musk）和 OpenAI 首席执行官山姆-奥特曼（Sam Altman）。
这场由瑞希-苏纳克（Rishi Sunak）领导的英国政府主办的高规格活动，是继近一年前推出 ChatGPT 之后，全球有关人工智能安全的讨论激烈升级的一年。至少对许多用户来说，该聊天机器人首次展示了最新一代人工智能系统强大的综合能力。它的病毒式传播为以前的一个小众学派注入了活力，这个学派认为人工智能迟早会对人类的生存构成威胁，并促使世界各地的政策制定者权衡是否以及如何监管这项技术。这些讨论是在这样的警告中进行的：不仅当今的人工智能工具已经带来了多方面的危险--尤其是对边缘化群体而言，而且下一代系统可能比现在强大十倍或百倍，更不用说更加危险了。
英国政府之所以选择布莱切利公园作为峰会的举办地，是因为它的象征意义：这里是现代计算的发源地之一；在这里设计的用于破译纳粹英格玛密码的机器构成了早期可编程计算机的蓝图。英国科技大臣米歇尔-多纳兰（Michelle Donelan）在周三的峰会开幕式上表示，她希望与会代表能够为类似规模的成就做出贡献，"突破实际可能的界限"。
来自世界各地的官员并没有试图在这里就一套共同的、可执行的技术准则达成协议。但苏纳克在周四宣布，人工智能公司已在峰会上同意让各国政府尽早使用他们的模型来进行安全评估。他还宣布，图灵奖获得者、计算机科学家本吉奥（Yoshua Bengio）已同意担任一个机构的主席，该机构将努力在一份报告中就前沿人工智能系统的风险和能力达成科学共识。
本吉奥在一份声明中说："我很高兴能与来自世界各地的同事合作，就这一极其重要的问题提出最新的证据，从而为管理人工智能安全所急需的国际协调提供支持。"
苏纳克在峰会上赢下头条新闻点位 - 人工智能实验室将让政府尽早使用他们的系统，尽管这一决定在细节上并不突出。苏纳克在 6 月份已经宣布，三家领先的前沿人工智能公司（OpenAI、Google DeepMind 和 Anthropic）已经同意让英国政府出于安全目的"提前或优先访问"他们的系统。苏纳克没有详细说明周四达成的协议与这一现有承诺有何不同，他也没有对政府是否会获得前沿模型的源代码或所谓的"权重"发表评论，或者仅仅是获得使用 API 接口与前沿模型进行交互的能力。(苏纳克办公室没有立即回复置评请求）。
苏纳克还宣布，英国的人工智能前沿工作组将发展成为一个负责进行安全评估的常设机构：英国人工智能安全研究所（U.K. AI Safety Institute）。
尽管进展有限，但与会代表对高级别讨论表示欢迎，认为这是国际合作监管人工智能技术迈出的关键性第一步--他们承认，虽然在许多领域达成了共识，但仍存在一些关键分歧。
周三，英国政府宣布了关于人工智能的"布莱切利宣言"，包括美国、英国、中国、印度和欧盟在内的28个国家签署了该宣言。宣言称，人工智能既有短期风险，也有长期风险，申明强大的人工智能系统的创造者有责任确保这些系统的安全，并承诺在识别和降低风险方面开展国际合作。
英国政府作为此次峰会的组织者，一方面要向科技公司传达其对人工智能风险的严肃态度，另一方面又要向科技公司发出信号，表明其对商业持开放态度，在这两者之间，英国政府走的是一条细水长流的路线。多纳兰在峰会前夕于Google DeepMind 总部举行的招待会上对科技界知名人士说："对我来说，我们面临的最大风险其实是错失人工智能真正带来的所有这些令人难以置信的机遇。如果我们真的让人们过于恐惧，或者因为没有把握住这些风险而退缩，那么我们就不会看到NHS（国民健康服务）采用人工智能，我们就不会看到我们的交通网络采用人工智能，我们就无法利用人工智能应对气候变化，或支持发展中国家解决粮食不平等等问题。这将是我们所能想象的最大悲剧。"
另一方面，美国本周发布的几项声明有可能使英国在人工智能安全方面的全球领导地位黯然失色。美国副总统卡马拉-哈里斯（Kamala Harris）周三在伦敦发表演讲时宣布了美国的一系列行动，其中包括成立美国人工智能安全研究所。哈里斯表示，该机构将为人工智能系统的风险评估制定指导方针，并就人工智能生成材料的水印和打击算法歧视等问题为监管机构制定指南。哈里斯是在美国总统乔-拜登（Joe Biden）周一签署行政命令，要求人工智能公司在训练具有潜在危险的模型时通知联邦政府，并在公开安全测试结果之前与联邦政府分享测试结果之后宣布这一消息的。
英国外交大臣詹姆斯-克莱弗利（James Cleverley）周四淡化了有关美国的声明给英国蒙上阴影的说法。他对《时代》周刊说："这不是囤积，而是分享。我们希望每个人都参与进来。这不是排他性的，而是包容性的。"
在布莱切利公园，大批警察在战时密码破译综合体周围搭建的安全临时警戒线上巡逻。周三，在正门外，来自压力团体"暂停人工智能"（Pause AI）的一小撮抗议者高举横幅和标语牌。该组织主张暂时停止训练比 OpenAI 的 GPT-4 更强大的人工智能系统，GPT-4 是 ChatGPT 的后继者，也是世界上最强大的公开大型语言模型。抗议者之一吉迪恩-富特曼（Gideon Futerman）告诉《时代》周刊："民意调查越来越显示，放慢人工智能的发展速度受到了公众的欢迎，就像我们今天在抗议时收到的许多来自老老少少公众的支持信息一样。暂停不仅是必要的，也是可以实现的"。
在会场内，主要的讨论都是闭门进行的，但也有一些业界人士出来向媒体发表讲话。Google DeepMind联合创始人、现任初创公司Inflection AI首席执行官穆斯塔法-苏莱曼（Mustafa Suleyman）在一次新闻发布会上表示，他不同意那些呼吁暂停训练下一代人工智能系统的人的观点，但他表示，在不久的将来，业界可能需要考虑将其作为一种选择。他说："我不排除这种可能性，我认为在未来五年左右的某个时间点，我们必须非常认真地考虑这个问题。我不认为今天有任何证据表明，GPT-4 这种规模的前沿模型......会带来任何重大的灾难性危害，更不用说任何生存危害了。客观地说，GPT-4 对世界上的人们有着不可思议的价值。但是，在我们创建更大 10 倍、100 倍、1000 倍的模型时，这是一个非常明智的问题，而这将在未来三四年内发生。"
今年3月，一封呼吁暂停训练大型人工智能系统6个月的公开信被许多业内人士认为无法执行，但一些代表表示，峰会正在采取措施，建立一个可以执行这一决定的国际框架。人工智能安全公司"猜想"（Conjecture）的首席执行官康纳-莱希（Connor Leahy）周三告诉《时代》周刊，他对峰会的讨论水平和几乎一致的共识留下了深刻印象。他说："总的来说，我认为英国在这里做了一些非常了不起的事情，"他称赞了来自政府和行业的高级别与会者的数量。"这不是一个在实践中制定政策的地方，而是一个奠定基础的地方"。
民间社会的部分成员受邀参加了与政策制定者和技术专家的闭门会议，但其中一些人对他们所说的代表人数不足感到不满。非营利组织 REAL ML 的代表、印度班加罗尔的维杜希-马尔达（Vidushi Marda）说："如果这真是一场全球对话，为什么[出席]的大多是美国和英国的民间社会？对我们来说，大多数重要决定都是不透明的，尽管我们就在会议室里。"
还有人指责峰会反映了业界的谈话要点。研究机构 AI Now Institute 的执行董事安巴-卡克（Amba Kak）说："业界完全掌握了这场对话，在很多方面，这次峰会也反映了这一点。所有这一切的背景是，我们正看到权力进一步向科技行业集中，而在这个行业中，只有少数几个参与者。如果我们让行业为人工智能政策定调，光说我们希望监管是不够的--因为我们将看到进一步巩固行业利益的监管。"
卡克说，峰会的范围似乎在进程后期发生了转变，纳入了对近期风险的讨论，她对此表示欢迎。她说："早期的信号都表明，峰会几乎完全集中在展望未来的危害类型上。如果说从《布莱切利宣言》中得到了什么启示的话，那就是有必要处理近期问题，而且这与长期问题并没有脱节。"
虽然此次峰会可能在一定程度上成功地弥合了研究人员对近期和长期风险发出警告的分歧，但在许多行业与会者中，人工智能研究的开源和闭源方法之间的意见分歧也是显而易见的。主张对人工智能研究进行更多限制的人说，高级人工智能的危险太大，强大模型的源代码不能随意发布。
开源社区不同意这种观点，他们认为，以盈利为目的的公司垄断人工智能研究很可能会导致不良后果，并认为开源模型可以加速安全研究。"开源的争论感觉仍然很有挑战性，我不认为这次峰会由于涉及一系列议题，真的能够提供足够的空间来深入细节，以寻求更大的共识，"与会代表、智库长期复原力中心（Centre for Long-Term Resilience）人工智能政策负责人杰斯-惠特尔斯通（Jess Whittlestone）告诉《时代》周刊。"在我参与的讨论中，有相当多的人同意，我们需要超越开放/闭源的二元辩论，研究更细致入微的解决方案，但对于这需要是什么样子以及什么应该被优先考虑，仍然存在不同的观点。"
在布莱切利公园（Bletchley Park）聚会的象征意义不言而喻，在这里，战时的伟人们齐聚一堂，在面临生存威胁时保护生命和自由。但是，如果这次峰会未能取得预期成果，那么另一种历史对比可能是更好的比喻。战后，位于布莱切利的著名密码破译机构演变成了英国的情报机构--GCHQ，该机构与美国国家安全局合作，在全球范围内不分青红皂白地实施大规模监控计划--利用技术不是为了保护公民，而是系统地侵犯他们的权利。
Signal公司总裁梅雷迪斯-惠特克（Meredith Whittaker）告诉《时代》周刊："布莱切利的神话被历届政府用来为监控和加强技术控制辩护，暗示这些努力与英国在第二次世界大战期间的反法西斯技术努力同出一源。因此，现任政府试图接近美国强大的人工智能产业，利用并延伸这一神话，希望过去的光辉能够掩盖现在的现实，也就不足为奇了。"