返回上一页  首页 | cnbeta报时: 05:29:38
OpenAI首席科学家呼吁业界限制模型开发 奥特曼表示赞同
发布日期:2026-11-23 05:17:40  稿源:环球市场播报

OpenAI首席科学家Jakub Pachocki提议,人工智能公司应同意对开发能力日益强大的模型设限,直到研究人员有更好的方法来理解和监控这些模型的行为。Pachocki呼吁制定全行业标准,为AI开发设定界限,各家公司应同意在满足特定安全要求之前不突破这些界限。

“我进一步提议,根据困惑度和其他衡量指标设定共同限制,开发者承诺在我们理解和监控AI行为的能力达到某个具体里程碑之前不突破这些限制,”Pachocki写道。Pachocki所提议的限制可以部分上基于一种被称为困惑度的技术指标,该指标衡量AI模型预测下一段文本的能力。Pachocki没有说明初始限制应设在什么水平,也没有说明何时开始实施。

Pachocki警告称,最早到2027年,AI就可能加速自身进化,其速度可能超过研究人员提高监控和理解这项技术能力的速度。

OpenAI首席执行官奥特曼对这一提议表示支持,称Pachocki的文章是“OpenAI一段时间以来发布的最重要内容”。他在X上的一篇帖子中表示,就共同限制达成一致将有助于确保“安全和控制”。

查看网友评论   返回完整版观看

返回上一页  首页 | cnbeta报时: 05:29:38

文字版  标准版  电脑端

© 2003-2026