返回上一页  首页 | cnbeta报时: 21:37:22
Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构
发布日期:2026-09-14 19:14:16  稿源:环球市场播报

据知情人士透露,早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前,Anthropic、OpenAI 与谷歌就已经展开磋商,计划携手成立一家 AI 行业标准机构。

知情人士称,OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示,他支持设立 AI 行业测试与审计机构,但他认为,主要 AI 实验室必须在美国政府不提供支持的前提下,自行组建这套标准组织。

阿莫代伊上周六发布博文《我们必须把控前沿发展节奏》,提出一整套提议,主张放缓 AI 发展速度,在 AI 能力日益强大、风险不断攀升的背景下建立独立监督机制,行业自我监管正是整套方案中的重要一环。阿莫代伊提出,政府着手制定 AI 监管法规的同时,企业可以先行推行自愿性安全标准,政府可以牵头或者斡旋行业对话。

阿莫代伊在 X 平台发布的博文迅速得到一众科技巨头的公开支持。奥特曼发文称,放缓前沿 AI 的研发节奏,已经是 OpenAI 近几周内部反复讨论的议题。刚刚卸任谷歌 DeepMind 首席执行官的德米斯・哈萨比斯表示,该提议大方向正确,但部分细节 “仍有待打磨完善”。SpaceX 首席执行官埃隆・马斯克同样对阿莫代伊的方案表示赞同。

设立 AI 自我监管机构的构想,已经在公开舆论场讨论数月之久。今年 7 月,哈萨比斯发布推文,提议参照美国金融业监管局(FINRA) 的模式搭建 AI 自律组织。FINRA 负责监管美国券商与证券从业人员。

不过,各家企业已经开始就行业标准制定开展协作谈判,这一点此前并未被媒体报道。知情人士透露,自 7 月起,谷歌、Anthropic、OpenAI 就组建标准机构一事,由 CEO 层级之下的代表成立工作组定期开会磋商。

The Information 此前报道,白宫曾传阅一份行政命令草案,拟设立上述监管机构,但今年夏末,这份方案未能在特朗普政府内部争取到足够支持,相关工作就此搁置。前白宫 AI 主管戴维・萨克斯一直公开反对建立类似 FINRA 的 AI 监管机构,他不赞同政府介入此事。据政治新闻网站 Politico 报道,Meta 首席执行官马克・扎克伯格也在 8 月与特朗普总统的电话会谈中,对全国性 AI 监管机构的方案表达担忧。

知情人士转述,奥特曼在本周员工大会上称,虽然他原本乐观期待政府能够出面支持标准机构落地,但目前行业内部尚未形成充分共识,部分企业对该构想持反对态度,因此最佳路径是联合其他 AI 实验室自行推进。奥特曼在同一场员工大会上向员工表示,OpenAI 自身也愿意放缓研发推进速度。

知情人士称,三家企业关于行业主导标准机构的工作组会议仍在持续进行。这表明,除高管们高调公开发声、抛出各类倡议之外,三家实验室已经有实际行动的意愿。其中一位知情人士透露,工作组就在刚刚过去的一周还召开过会议。

目前尚不清楚 Meta 对此事的立场。Meta 首席 AI 官亚历山大・王周六在 X 平台发文写道:“对齐是面向全民打造个人超级智能的根基。” 这句话指 AI 系统行为要贴合人类指令意图,但他并未明确表态支持或是反对阿莫代伊的整套提议。

近期 Anthropic 员工在 X 平台发布的多条博文广泛传播,再度引发公众对强 AI 潜在风险的关注。一名 Anthropic 研究员宣布离职,理由是 Anthropic 与 OpenAI 两家公司均 “未能履行应尽责任”;另一名在职 Anthropic 员工表示,公司内部真心相信 AI 有可能对人类构成生存级威胁。

阿莫代伊周六提议,各家头部 AI 公司应当向METR(模型评估与威胁研究机构) 这类外部评估方开放等同于内部员工等级的技术访问权限,并且 Anthropic 承诺会率先落实该举措。他同时呼吁政府出台有限反垄断豁免,允许 AI 企业开展安全领域协作,避免触碰反垄断红线。

萨克斯在 X 平台发文称,AI 企业完全可以自主推进安全相关工作,并不需要反垄断豁免作为协作前提。但他质疑,研发放缓是否完全出于利他考量;产品责任风险本身就已经构成经济激励,促使企业防范 AI 带来伤害。

行业内部也出现不少批评声音。Cohere 首席执行官艾丹・戈麦斯在 X 发帖,对头部 AI 企业共同制定规则、约束中小竞争对手的做法表达担忧,他写道:“这套想法听上去,活脱脱一个卡特尔(垄断同盟)的构思。”

查看网友评论   返回完整版观看

返回上一页  首页 | cnbeta报时: 21:37:22

文字版  标准版  电脑端

© 2003-2026