尽管美中两国在诸多领域存在战略竞争,但据科技媒体报道,美国正寻求与中国建立一套安全通报机制,以便在发生可能引发严重国家安全威胁的人工智能危险事件时向对方发出预警。

这一设想由大西洋理事会与安全探索国际组织联合提出。该机制的核心目标在于,通过设立专门的预警渠道,确保两国能够在严重人工智能安全事件演变成地缘政治危机或军事冲突前及时取得联系。报道指出,由于人工智能技术的快速演进,自动化系统极有可能在不受人类直接控制的情况下引发意料之外的严重后果,因此建立此类沟通桥梁显得至关重要。
根据提议,通报机制重点关注四大类高风险场景:
第一,自主AI系统失控并造成严重现实破坏;
第二,涉及核武器、化学武器或生物武器等大规模杀伤性武器领域的AI安全事故;
第三,高危AI模型或相关核心技术的意外泄露;
第四,针对关键基础设施且造成毁灭性打击的大规模AI网络攻击。
专家分析指出,这一机制的建立思路与冷战时期美苏两国为防止核战争爆发而设立的“红线”直通电话极为相似。尽管中美两国的科技企业和研究机构已在AI安全标准与风险管理方面展开过初步对话,但若能将这种合作正式上升为政府层面的安全机制,无疑将大幅降低因技术误判而引发重大国际危机的风险,为全球AI治理提供重要支撑。