OpenAI CEO承认：AI的好处可能不会广泛分配 AGI不会有最大的创新想法

“技术进步的历史影响表明，我们关心的大多数指标（健康结果、经济繁荣等）在平均水平和长期内都有所改善，但增加平等似乎并不是技术决定的，正确处理这一问题可能需要新的想法，”奥特曼写道。“特别是，资本与劳动之间的权力平衡似乎很容易被打乱，这可能需要提前干预。”

解决这个问题的方案，比如奥特曼的“计算预算”概念，可能比实施更容易提出。已经，人工智能正在影响劳动力市场，导致了裁员和部门缩减。专家们警告，如果没有适当的政府政策以及再培训和提升技能的项目，大规模失业可能是人工智能技术崛起的一个可能结果。

并非第一次，奥特曼声称人工通用智能（AGI）——他定义为“[一个 AI]系统能够在人类水平上，在多个领域解决日益复杂的问题”——即将到来。奥特曼警告说，无论其形式如何，这种 AGI 都不会是完美的，因为它可能“需要大量的人类监督和指导”。

“[AGI systems] 不会有最大的创新想法，”奥特曼写道，“它在某些方面会很出色，但在其他方面却会令人惊讶地糟糕。”

但奥特曼坚称，AGI 的真正价值将来自于大规模运行这些系统。与 OpenAI 竞争对手 Anthropic 的首席执行官达里奥·阿莫代伊相似，奥特曼设想成千上万甚至数百万个超强能力的 AI 系统在“每个知识工作领域”中处理任务。

人们可能会认为这将是一个昂贵的愿景。确实，奥特曼观察到“你可以花费任意数量的钱，并获得持续和可预测的 AI 性能提升”。这或许就是为什么 OpenAI据报道正在进行谈判，以在一轮融资中筹集高达 400 亿美元，并且已经承诺与合作伙伴一起花费高达 5000 亿美元用于一个庞大的数据网络。

然而，奥特曼也指出，使用“某一水平的人工智能”的成本每 12 个月大约下降 10 倍。换句话说，推动人工智能技术的边界不会变得更便宜，但用户将在此过程中获得越来越强大的系统。

来自中国人工智能初创公司 DeepSeek 及其他公司的高效、廉价的 AI 模型似乎支持这一观点。还有证据表明培训和开发成本也在下降，但奥特曼和阿莫代伊都认为，要实现 AGI 级别的人工智能——甚至更高水平——将需要巨额投资。

至于 OpenAI 计划如何发布 AGI 级系统（假设它确实能够创建这些系统），阿尔特曼表示，公司可能会做出“与 AGI 安全相关的一些重大决定和限制，这些决定可能不受欢迎。”OpenAI 曾承诺，在出于安全考虑的情况下，它将停止与任何“价值对齐”、“安全意识”项目竞争，并开始协助那些在构建 AGI 方面接近于它的项目。

当然，那时 OpenAI 打算保持非营利状态。该公司正在将其公司结构转变为更传统的以利润为驱动的组织。OpenAI据报道计划在 2029 年前实现 1000 亿美元的收入，相当于 Target 和 Nestle 目前的年销售额。

鉴于这种情况，奥特曼补充说，OpenAI 在构建更强大的人工智能时的目标将是“更倾向于个人赋权”，同时防止“人工智能被专制政府用来通过大规模监控和失去自主权来控制其人口。”奥特曼最近表示，他认为 OpenAI 在开源其技术方面站在了历史的错误一方。虽然 OpenAI 过去曾开源技术，但该公司通常更倾向于专有的、封闭源代码的开发方式。

“人工智能将渗透到经济和社会的各个领域；我们将期待一切都变得智能化，”奥特曼说。“我们中的许多人预计需要给予人们比历史上更多的技术控制权，包括更多的开源，并接受安全与个人赋权之间的平衡，这将需要权衡。”

在脚注中，奥特曼补充道，OpenAI 实际上并不打算很快结束与密切合作伙伴和投资者微软的关系。微软和 OpenAI 据报道对 AGI 有合同定义——能够产生 1000 亿美元利润的 AI 系统——一旦满足该条件，OpenAI 将能够谈判更有利的投资条款。然而，奥特曼表示，OpenAI “完全期望与微软长期合作。”