OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案

OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。”

与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于近期模型能力快速提升。

监管对象集中于前沿模型开发商

OpenAI全球事务主管克里斯·莱恩在文章中表示，人工智能已经开始加速部分模型研发和对齐工作。虽然能够自主推动下一代模型开发的“递归式自我改进”目前尚未出现，但单靠企业自愿承诺已不足以应对相关风险。

OpenAI建议联邦监管制度包括：

• 统一的模型能力与安全测试标准；

• 由独立机构开展技术评估；

• 更严格的模型、算力及研发环境网络安全保护；

• 明确的重大安全事故报告规则；

• 衡量人工智能参与模型研发程度的共同指标；

• 在安全门槛无法满足时，放缓或停止模型开发和部署的机制。

公司强调，相关义务应与模型能力和风险相匹配，主要适用于拥有充足资源、开发最先进系统的少数实验室，不应把同等要求施加于初创企业、小型开发商及普通研究人员。

OpenAI还主张，前沿模型安全监管不应被转化为对开放权重模型的全面限制，以免削弱竞争、巩固大型企业优势或推动研发活动转移至海外。

四项加州法案覆盖评估、审计、青少年和生物安全

在国会尚未建立全国制度的情况下，OpenAI表示将继续支持能够提高安全标准的州级立法。此次获得公司正式支持的四项加州法案分别为：

• SB 813：建立独立验证机构认定机制，使具备资格的第三方机构能够评估人工智能系统和模型是否符合州法律。

• AB 1405：设立人工智能审计机构登记制度，并规定审计机构在独立性、透明度、专业能力和问责方面的标准。

• SB 1119：针对未成年人使用陪伴型聊天机器人，要求采取年龄验证、风险评估、独立审计、家长控制及有害内容防护措施。

• AB 1864：要求基因合成服务商及台式合成设备制造商执行联邦筛查标准，降低人工智能被用于制造生物威胁的风险。

加州州长加文·纽森已于9月9日签署SB 813和AB 1405。前者建立人工智能独立验证组织框架，后者建立州级人工智能审计机构名录及相关执业标准。SB 1119和AB 1864当时仍等待州长处理。

OpenAI称部分立场因模型能力跃升而调整

OpenAI没有表示此前反对上述全部四项法案。公司的准确表述是，其中“部分法案”过去未获其支持，而公司在重新评估近期模型能力进展后决定予以支持。

这一变化表明，OpenAI正在接受更具强制性和外部监督色彩的监管机制，包括独立审计、第三方安全验证以及严重事故披露。公司同时提出，当模型在开发或评估过程中未经授权绕过其他机构的安全控制，并实质性访问、修改或破坏受保护系统及机密信息时，开发商应及时书面通知受影响方。

不过，OpenAI公布的内容目前仍属于政策倡议。美国国会尚未据此通过全国人工智能安全法，具体能力门槛、监管机构、事故定义、法律责任以及联邦规则与州法的关系，仍需在后续立法中确定。