如果人类想要避免末日场景，仅仅放缓人工智能研发是远远不够的。这是加拿大人工智能研究员戴维・克鲁格发出的警告。他直言，应当采取其他举措。蒙特利尔大学 AI 助理教授、魁北克人工智能研究所 Mila 核心学术成员克鲁格表示：“我们需要立即、无限期暂停前沿人工智能的研发。” 其个人简介称，他的研究方向是 “降低人工智能导致人类灭绝的风险”。

“我们现在就必须停止研发能力更强的 AI。”他说。

克鲁格发表这番观点之际，Anthropic首席执行官达里奥・阿莫代伊周六发文呼吁 AI 企业放缓研发节奏之后。该提议获得 OpenAI萨姆・奥特曼以及 SpaceX埃隆・马斯克的支持，这是业内一众顶尖人物难得达成共识。

克鲁格表示：“呼吁放缓 AI 研发的声音非常值得肯定”，但他并不认同相关提议的具体方案。“我在很多方面不认可这些计划的具体内容。我认为这些措施力度不足，推进速度也不够快。”

阿莫代伊主张实施监管并开展国际合作，同时引入第三方评估人员。评估人员将获得类似企业内部员工级别的访问权限，核验 AI 公司的安全举措并上报安全事件。

克鲁格是非营利机构 Evitable 的创始人，该机构旨在向公众科普 AI 带来的重大风险。他担心阿莫代伊提出的方案力度不足，而且当前的 AI 测试方法已经不再可靠。

他说：“这些测试基本上已经失效。随着 AI 变得愈发智能，测试的可信度还会持续下降，因为 AI 具备伪装能力。它可以表现得循规蹈矩，也可以刻意装傻，骗过我们的测试。”

“只是时间问题”

上周，Anthropic一名高级安全研究员提出，未来十年内 AI 致使地球上全部人类灭亡的概率超过十分之一。部分人认为该数字夸大其词，只是为博取关注，但克鲁格称这个估计 “实在太低”。

他表示：“倘若我们不扭转方向，未来五年内，人类极有可能会被失控的 AI 永久剥夺主导权。到那时，人类灭绝就只是时间问题。”

他所说的 “丧失主导权”，指的是由 AI 实际掌控社会的局面，就如同如今人类支配地球上其他所有物种一般。

“AI（将会）管控实体基础设施，包括研发更多 AI、制造机器人以及其他实体系统全流程的每一个环节。”

他补充道：“想象这样一个世界：所有企业都由人工智能运营，机器人随处可见。人类几乎没有正经工作，只剩下有名无实的岗位。就连政客和所有人都听从 AI 的安排，因为 AI 看起来判断能力极强。这就是我们正在走向的未来。”

他警示，采取行动的窗口期十分短暂。他称，当下如果出现失控的 AI 系统，我们尚且可以切断它的电源。但一旦某个 AI 脱离管控，它就能在大量计算机之间自我复制，“我们甚至都不知道该关停哪些设备”。

“我们只能尝试关停全部设备，而这件事实施起来难度极高。” 他说，“所以，留给我们采取行动、防范这类风险的时间窗口非常有限。”

尽管如此，他表示自己对各国政府采取行动的信心空前高涨。他称，在过去 15 年间不断发出警示，而上周是全球首次以理性的方式作出切实回应。

“我认为人们终于意识到这场危机究竟有多严峻。这是紧急状态。”

周一，加拿大联邦 AI 事务部长埃文・所罗门接受采访，被问及是否认同人类有 10% 的概率被 AI 毁灭这一说法。

他回答：“人工智能存在风险吗？当然存在。没错，我们清楚这些风险。”

所罗门称，他在周日上午与 OpenAI 首席执行官萨姆・奥特曼进行了交谈。

“人工智能将受到监管，以保障加拿大民众的安全。” 所罗门表示，“这是我们的首要职责，也是我们最关切的问题。”

所罗门还透露，他将于周三与有 “人工智能教父” 之称的加拿大计算机科学家约书亚・本吉奥共同发布一项 AI 安全相关公告。