美国参议院两党酝酿立法要求AI巨头化解重大已知风险

摘要:

美国参议院两党立法谈判代表正就一项重要的人工智能监管法案展开密集磋商。根据多位参议院助理及知情人士透露,该提案拟对前沿技术企业施加明确的法律责任,要求其从底层设计端打造安全的人工智能产品并化解已知的重大灾难性风险;同时,法案还探讨赋予美国联邦政府在特定极端危险情形下叫停AI模型发布的权力,并允许科技企业就此类行政干预向联邦法院提起司法挑战。

据两位参与起草讨论的参议院助理介绍,当前谈判的核心议题之一是向AI开发机构引入所谓的“谨慎注意义务”(duty of care)。根据该机制设想,开发具备极高能力前沿大模型的科技公司,有责任在产品设计和全生命周期中主动规避并化解灾难性安全隐患,其中包括防范恶意行为者利用高阶AI系统设计或制造核武器、生物化学武器等极端国家安全威胁。知情人士指出,该法案的适用对象将重点锚定具备业界最尖端能力的前沿模型体系,包括OpenAI、Google以及Anthropic等头部企业开发的底层架构均在其潜在规制范畴之内。

除了对企业提出前置风险规避要求,谈判各方还试图赋予美国联邦政府一项强力监管工具——在认定某款模型存在迫在眉睫的严重威胁时,有权直接出手阻断或暂停该AI模型的公开发布。为了在国家安全监管与保护技术创新活力之间取得平衡,法案机制拟引入联邦法院作为司法兜底:一旦监管机构做出禁令决策,相关AI企业有权立即向联邦法院提起诉讼以寻求司法审查。目前,关于联邦政府行使干预权力的具体触发边界与管辖范围,两党谈判代表仍在进行细化协商。

与此同时,法案草案还触及了联邦与州级监管权限划分的敏感地带。知情人士透露,该倡议的部分条款拟禁止各州针对与前沿AI模型相关的特定重大风险出台各自独立的差异化地方法规,以避免出现割裂的“监管拼贴”局面,确保全美在核心前沿AI安全合规上适用统一的联邦标准体系。

本次立法磋商汇聚了参议院多位极具影响力的两党重量级议员,包括参议院多数党领袖约翰·图恩(John Thune)、参议院商务委员会主席泰德·克鲁兹(Ted Cruz)以及负责牵头民主党谈判进程的资深参议员艾米·克洛布查(Amy Klobuchar),参议员玛丽亚·坎特韦尔(Maria Cantwell)亦深度参与了沟通。克鲁兹公开确认,他正与克洛布查和图恩就防范生物与核威胁等灾难性风险立法展开通力合作;克洛布查在接受采访时则表示,两党正致力于就政府对AI最严峻风险的适度监管达成一致,其核心包括促成开发者与政府专业机构展开合作,对前沿模型进行严格的审查与安全测试。

尽管跨党派协商正在加速推进,但立法进程仍面临极为紧迫的国会会期考验。在11月3日美国中期选举前夕,美国众议院仅规划了一周的正式会期,参议院会期也仅剩三周左右。如此狭窄的立法时间窗口意味着,即便参议院核心谈判代表能在近期就条款框架全面达成妥协,该法案能否在选举休会前迅速通过参众两院并最终送交签署成法,依然存在巨大的程序变数。 

查看评论
created by ceallan