OpenAI CEO萨姆·奥特曼:担忧AI被少数巨头垄断 但过度防范无异于“以自由换安全”

摘要:

OpenAI首席执行官萨姆·奥特曼近日对人工智能的未来发展表达了深切担忧。他警告称,AI技术最终可能会被少数几家公司、个别模型或极少数人所垄断,这将导致绝大多数消费者在AI如何重塑世界的进程中丧失发言权。

在本周日发布的一档由戴维·森拉主持的播客节目中,奥特曼强调了公众掌控未来的重要性。他表示,正确的方向应当是确保人类能够深度控制未来,人类社会与AI模型将会共同进化。

与此同时,奥特曼还指出了另一种普遍存在的担忧,即AI可能会摆脱人类的控制。但他指出,充满悖论的是,正是出于对这种失控风险的极度恐惧,反而可能促成“少数人垄断AI”局面的发生。他表示,许多人对这些潜在风险感到过度紧张,迫切想要保护世界,这种心态很容易演变成“为了安全而牺牲大量自由”。

外界认为,奥特曼的这番言论很可能是在暗指竞争对手Anthropic的首席执行官达里奥·阿莫代伊。阿莫代伊曾多次在播客、文章及公司博客中警告AI快速发展的危险。在今年6月发表的一篇文章中,阿莫代伊称其公司推出的新型Mythos模型对网络安全、金融领域、关键基础设施以及国家安全构成了“非常真实的风险”。以此为由,阿莫代伊积极主张政府应在AI监管中发挥更大作用。然而在奥特曼看来,这种做法可能正是在用自由去交易安全。

在行业生态方面,两家公司的路线分歧也日益显现。上个月,业界发布了一封支持开源权重(open-weight)模型的公开信,允许开发者在自有基础设施上自由共享、下载、修改和部署AI,而Anthropic是唯一一家未签署该信函的主要AI企业。目前,中国正积极拥抱开源权重模型,并借此以极低的成本紧追硅谷。包括英伟达、Meta和微软在内的美国科技巨头已提出警告,认为美国必须采取同样开放的举措,否则可能在当前的AI全球竞赛中将阵地拱手让人。

就OpenAI自身而言,尽管其尚未开放最前沿模型的源代码,但该公司已于去年发布了gpt-oss-120b和gpt-oss-20b两款开源权重模型。

在访谈的最后,奥特曼还提到,美国目前的AI领军人物们未能有效向公众展示这项技术将如何赋予普通人更大的生活自主权。他乐观地预测,在AI技术的赋能与推动下,我们将见证一场史无前例的微型企业创业大繁荣。

查看评论
created by ceallan