美国人工智能实验室 Anthropic 周一在加州联邦法院提起诉讼,要求阻止五角大楼将其列入国家安全供应链风险名单,标志着这家初创公司与美国军方围绕其人工智能技术使用限制的高风险博弈全面升级。
根据此前美国国防部发出的正式通知,五角大楼上周四已对 Anthropic 作出“供应链风险”认定,从而限制美国政府在部分项目中使用该公司的人工智能技术。 一名知情人士表示,相关技术此前已被用于国防领域某些项目,但在风险认定后使用范围将受到明显收缩。
Anthropic 在诉状中称,上述认定缺乏法律依据,侵犯了公司的言论自由与正当程序权利,并请求法院撤销该认定并禁止联邦机构执行相关限制措施。 诉状写道:“这些举措前所未有且违法。宪法不允许政府动用其巨大权力,因一家公司的受保护言论而对其进行惩罚。”
根据美国国防部长皮特·黑格塞斯此前的决定,Anthropic 被认定为国家安全供应链风险的直接背景,是该公司拒绝按照五角大楼要求删除其模型中关于自主武器和国内大规模监控用途的安全护栏。 Anthropic 一直坚持,其人工智能系统不得被用于完全自主武器或针对美国公民的监控,并将此视为不容逾越的“红线”。
这一认定对 Anthropic 的政府业务构成重大威胁,也被视为将深刻影响其他人工智能公司在与军方谈判时如何就技术军用范围设定约束。 不过,Anthropic 首席执行官达里奥·阿莫代伊上周四表示,该认定的适用范围“相对狭窄”,企业在与五角大楼无关的项目中仍可照常使用 Anthropic 的工具。
与此同时,美国总统唐纳德·特朗普已指示联邦政府逐步停止与 Anthropic 的合作。 Anthropic 的重要投资方包括 Alphabet 旗下的Google以及亚马逊公司。 特朗普与黑格塞斯表示,政府与 Anthropic 相关合作将设有为期六个月的过渡期,以便完成现有项目的收尾工作。
此前有报道称,围绕与五角大楼关系的恶化,Anthropic 内部已经出现业务和前景受挫的担忧。 特朗普政府与 Anthropic 的紧张关系在今年2月27日达到高潮,在历经数月就政策是否会限制军事行动的谈判后,特朗普与黑格塞斯作出上述“断供”决定。 就在此之前不久,阿莫代伊还曾与黑格塞斯会面,希望寻求妥协方案,但最终未能达成一致。
五角大楼方面则表示,决定如何保卫国家应由美国法律而非私人企业来界定,国防部必须在“任何合法用途”下拥有使用人工智能的充分灵活性。 军方官员认为,Anthropic 在武器系统和情报用途上的限制可能会危及美国军人的生命安全。
Anthropic 则在公开立场中强调,即便是性能最强的人工智能模型,目前也远未达到足以支持完全自主武器的可靠程度,贸然用于此类用途将极具危险。 公司同样反对利用人工智能对美国民众实施大规模国内监控,称这将违反基本权利,并破坏民主社会的根基。
在黑格塞斯宣布供应链风险认定后,Anthropic 发表声明称该认定在法律上站不住脚,并将为那些尝试与政府就使用边界进行认真谈判的公司树立危险先例。 公司表示不会因“恐吓或惩罚”改变原则,并重申将通过司法途径挑战五角大楼的决定。
围绕此次争端,阿莫代伊还就一份内部备忘录公开致歉。 这份由科技媒体 The Information 披露的备忘录写于上周五,阿莫代伊在文中称,五角大楼官员在一定程度上“不喜欢”这家公司,是因为 Anthropic “没有对特朗普进行独裁者式赞美”。
过去一年,美国国防部已与多家大型人工智能实验室签署价值最高可达2亿美元的框架协议,其中包括 Anthropic、OpenAI 和Google等公司。 在黑格塞斯着手将 Anthropic 列入“黑名单”后不久,微软支持的 OpenAI 宣布与五角大楼达成协议,向其网络提供人工智能技术。 OpenAI 首席执行官山姆·奥特曼当时表示,五角大楼在原则上同意确保武器系统必须有人类监督、反对对美国民众进行大规模监控等底线。
此次诉讼不仅将决定 Anthropic 能否挽回与美国政府的合作空间,也被视为美国人工智能行业在军用与伦理边界问题上的关键战役之一。 对于其他正与政府就技术使用范围进行谈判的人工智能企业而言,法院作出的判决很可能成为今后博弈的参照。
