据彭博社报道,Harvey是一家估值156亿美元的美国法律科技创业公司,其业务核心是训练像OpenAI GPT-4这样的AI模型,为律师完成专业工作。然而,近期不断飙升的AI成本,正促使该公司重新考虑对这些AI巨头的依赖。

Harvey使用Kimi K3自建模型
据一位知情人士透露,在3月份对其AI智能体进行更新后,Harvey的客户使用量激增,但毛利率却急剧下滑,从年初的约50%降至6月的-50%。
如今,这家创业公司已加入越来越多软件公司的行列,开始采用开放权重模型,包括来自中国、能力日益增强的替代模型。这些模型通常比美国AI开发商的专有技术更便宜,还能让Harvey这样的公司利用自己的数据创建定制模型。
红杉资本、General Catalyst等投资机构正在支持这一趋势。对于企业而言,这不仅可以节省一项最大成本之一,还能让它们对自身技术拥有更多控制权,而不是将技术外包给OpenAI和Anthropic。
这一动向可能会侵蚀AI巨头的收入,因为OpenAI和Anthropic都在为备受期待的IPO做准备。与此同时,随着外界围绕是否有必要放缓尖端AI发展速度的争论不断升温,对一些创业公司而言,采用开放权重模型也是一种未雨绸缪的方式,以应对未来最先进AI模型开发可能被放缓或受到限制的情况。
开放模型
Harvey在8月推出了自己的模型,该模型由中国月之暗面旗下Kimi K3驱动。Kimi K3的表现接近Anthropic最先进的模型,但成本比后者低得多。知情人士称,这次模型发布以及Harvey对AI使用方式进行的其他调整,已经让公司的毛利率重新转为正值。Harvey拒绝就本文涉及的具体财务数据发表评论。
同样地,健康科技创业公司Abridge最近宣布,正在基于英伟达的开放模型训练一个用于临床场景的定制基础模型。AI客服创业公司Decagon表示,其目前有80%的查询通过自有模型处理。在金融科技领域,包括Ramp和Rogo在内的创业公司正首次探索训练自己的模型。在编程公司中,现已隶属于SpaceX的Cursor,以及估值480亿美元的Cognition,是最早发布定制模型的一批AI应用公司。
Ramp联合CEO卡里姆·阿蒂耶(Karim Atiyeh)表示,此前自建模型对Ramp来说过于昂贵,但在6月融资7.5亿美元后,公司正考虑这样做,因为开放权重系统已取得巨大进步,“一年前这样做绝对毫无意义,现在开始变得合理多了”。
阿蒂耶称,随着算力成本攀升,“不考虑这件事并为此优化,完全是不负责任的”。他所在的公司目前正商谈引入更多资本。
不过,并非所有投资者都认同这一趋势。Anthropic投资方Menlo Ventures合伙人马特·克拉宁(Matt Kraning)认为,并非每家公司都适合开发定制模型,因为这需要专业人才,而且前期成本更高。他说,对一些公司而言,这不过是一种营销手段。
“有没有自己的模型,这个问题本身就问错了。在大多数情况下,这往往只是在装样子。”克拉宁称。