人工智能行业近日因一则未经证实的传闻而掀起广泛讨论。市场消息称,Google旗下DeepMind可能已经接近实现被业内视为“人工智能圣杯”的关键能力——递归自我改进(RSI)。与此同时,Anthropic、OpenAI以及马斯克等业界重要参与者近期频繁呼吁放缓前沿人工智能发展速度,这种时间上的巧合也引发外界对于行业竞争和监管博弈的新猜测。
所谓递归自我改进,是指人工智能系统能够帮助开发下一代更强大的人工智能模型,并进一步提高未来模型的研发效率。如果这一过程持续循环,理论上可能形成能力快速增长的反馈机制,使人工智能进步速度远远超过传统技术演进节奏。
目前有关Google接近实现RSI的说法主要来自行业传闻,尚未获得Google官方证实。不过,这一猜测恰逢多家领先AI公司最近集中表达对人工智能加速发展的担忧,因此迅速引发关注。
率先引发讨论的是Anthropic首席执行官达里奥·阿莫代伊。他发表公开文章呼吁放缓前沿AI发展速度,并提出建立更严格的安全评估机制。他在文章中表示,自今年夏季以来,人工智能进步速度出现明显加快,而推动这一变化的重要因素之一,就是AI越来越多地参与到下一代AI系统研发工作中。
阿莫代伊特别提到,递归自我改进现象已经开始在整个行业范围内显现。他认为,如果这一趋势失去控制,人类理解和监管这些系统的能力可能无法跟上其发展速度,因此需要极其谨慎地推进相关研究。
作为具体措施,Anthropic宣布愿意引入拥有接近员工权限的第三方评估团队,对公司模型训练流程、安全机制和开发活动进行长期监督,以验证企业是否遵守自身作出的安全承诺。
OpenAI随后公开表示认同这一观点。公司负责人称,人工智能前沿发展的速度问题已经成为近几周内部讨论的重要议题,并表示未来也将支持类似的独立安全审查机制。
与此同时,马斯克长期以来同样主张加强对先进人工智能的监管。他曾多次警告超级智能可能带来的潜在风险,并认为在能力快速增长阶段建立监管框架具有必要性。
然而,这些呼吁也引发了另一种截然不同的声音。一部分批评人士认为,大型AI实验室要求放缓行业发展,并不一定完全出于安全考虑,也有可能是一种争取“监管护城河”的策略。他们担心,一旦政府采纳更严格的监管措施,拥有大量资金、算力和法律资源的大公司反而更容易满足监管要求,而规模较小的竞争者和开源项目将面临更高门槛。
这种观点认为,如果行业发展速度被人为压制,最终受益者未必是公众安全,而可能是已经占据领先位置的头部企业。部分评论人士甚至将这种现象描述为“监管俘获”,即大型企业借助监管体系巩固自身优势地位。
无论上述猜测是否成立,越来越多证据表明,人工智能正在以前所未有的速度参与自身研发过程。近期多个研究机构和企业都承认,AI已经能够承担代码编写、模型优化、实验设计以及部分研究工作,这使得AI研发效率出现显著提升。
因此,围绕递归自我改进是否即将到来、行业是否应该放缓发展,以及谁将从未来监管体系中获益的问题,正在成为全球人工智能领域最激烈的讨论之一。而如果Google真的接近实现RSI,那么这场关于速度、安全与竞争的争论,或许才刚刚开始。