随着人工智能模型性能的不断提升,其对社会及经济领域的深远影响愈发引人关注,各国政府已逐渐意识到,AI模型绝非简单的软件升级,建立完善的监管机制迫在眉睫。GoogleDeepMind首席执行官德米斯·哈萨比斯(Demis Hassabis)日前提出建议,呼吁由美国带头成立一个全球性监管机构,旨在对前沿人工智能模型进行监督与评估。

哈萨比斯在领英(LinkedIn)的一篇文章中指出,通用人工智能(AGI)的实现可能仅在几年之内,鉴于其在网络安全等领域可能带来的挑战,必须立即采取行动应对风险。他强调,未来需要稳健的保障措施来保持对日益具有自主性、能够递归自我改进的系统的控制,并妥善处理那些随着技术演进而不断显现的未知问题。
为此,哈萨比斯建议设立一个“标准机构”(Standards Body)。这一机构可以采取由联邦政府监督的公私合作形式,或是作为自律组织运作。他认为美国应当在这一全球性监管机构中发挥领导作用。该机构应由独立的顶尖技术专家及开源社区代表组成,经费则由行业内部筹措。
按照哈萨比斯的构想,该机构的主要职责是制定评估协议,并与相关联邦机构及美国国家实验室协同,针对国家安全相关领域进行测试。他建议将模型在标准机构设定的基准测试中的表现作为评判标准,若符合一定阈值,则被划定为“前沿类”(Frontier-class)模型。这些基准将定期更新,以跟上人工智能技术能力的演进速度。
开发前沿模型的企业将被列为“前沿实验室”(Frontier Labs),并承担相应的合规义务,包括发布包含详细技术细节的模型卡(Model Cards)、保持高水平的内部网络安全防御,以及对核心人员进行背景审查。此外,这些公司还需在模型发布前至少30天内,将其提交至标准机构进行审核,只有通过评估协议要求的模型方可对外发布。
哈萨比斯进一步强调,无论这些前沿模型产自哪个国家,也无论其是开源还是闭源,该监管框架均应适用。
分析指出,哈萨比斯所提议的架构类似于为人工智能行业设立一个“联合国”。然而,如果这一机构由美国主导且成员主要来自美国业界,其他国家(如中国)是否会遵循其制定的标准,目前仍存在一定的不确定性。