专家称AI行业在实现AGI的道路上走错了方向

该报告包括每个部分的主要内容，以及社区意见部分，受访者被问及对该部分的看法。

“AI 感知与现实”部分由麻省理工学院计算机科学家 Rodney Brooks 主持，引用了 Gartner 炒作周期特征，这是技术炒作中常见的五阶段周期。报告指出，2024 年 11 月，Gartner“估计生成式 AI 的炒作刚刚过了高峰，正在走下坡路”。社区意见部分 79% 的受访者表示，目前公众对 AI 能力的认知与 AI 研发的现实不符，90% 的人表示这种不匹配阻碍了 AI 研究——其中 74% 的人表示“AI 研究的方向是由炒作驱动的”。

布鲁克斯在一封电子邮件中表示：“我之所以采用 Gartner 技术成熟度曲线，是因为这是他们多年来一直使用的方法，它概括了在很多不同领域出现的所有炒作，随后都以失望告终。因此，它在许多领域的存在和准确性告诉我们，我们应该谨慎地接受当前对未来事物的炒作，任何时候都要谨慎行事。”

布鲁克斯补充道：“我认为，公众对人工智能的大量讨论都过于相信炒作的准确性。”

通用人工智能 (AGI)指的是人类级别的智能：假设机器能够像人类一样解释信息并从中学习。通用人工智能是该领域的圣杯，对无数领域和学科的自动化和效率都有影响。想想那些你不想花太多时间做的琐碎任务，从计划旅行到报税。通用人工智能可以用来减轻死记硬背任务的负担，也可以催化其他领域的进步，从交通到教育和技术。

令人惊讶的是，大多数人（475 名受访者中的 76%）表示，仅仅扩大当前的 AI 方法还不足以产生 AGI。

报告写道：“总体而言，这些回应表明了一种谨慎而又向前迈进的方法：人工智能研究人员优先考虑安全、道德治理、利益共享和逐步创新，主张协作和负责任的发展，而不是竞相发展通用人工智能。”

尽管炒作扭曲了研究现状，而且当前的人工智能方法并没有让研究人员走上 AGI 的最佳道路，但这项技术已经取得了突飞猛进的发展。

“五年前，我们几乎不可能进行这样的讨论——人工智能仅限于可以容忍高比例错误的应用，例如产品推荐，或者知识领域受到严格限制的应用，例如对科学图像进行分类，”弗吉尼亚大学计算机科学家、该报告事实性和可信度部分主席亨利·考茨 (Henry Kautz) 在给 Gizmodo 的电子邮件中解释道。“然后，从历史角度来看，通用人工智能开始发挥作用，并通过 ChatGPT 等聊天机器人引起公众关注。”

报告指出，人工智能事实性“远未解决”，最好的法学硕士在 2024 年的基准测试中只能正确回答大约一半的问题。但新的训练方法可以提高这些模型的稳健性，而组织人工智能的新方法可以进一步提高它们的性能。

“我相信，提高可信度的下一阶段将是用合作的团队取代单个人工智能代理，这些团队不断核实彼此的事实，并努力保持彼此的诚实，”考茨补充道。“大多数公众以及科学界（包括人工智能研究人员群体）都低估了当今最佳人工智能系统的质量；人们对人工智能的认知落后于技术一两年。”

人工智能不会消失；毕竟，Gartner 炒作周期不会以“逐渐消失”而结束，而是以“生产力达到顶峰”而结束。人工智能使用案例的不同领域有不同程度的炒作，但随着私营部门、政府官员，甚至是我们自己的家庭对人工智能的呼声越来越高，这份报告令人耳目一新，人工智能研究人员正在非常批判地思考他们所在领域的现状。从人工智能系统的构建方式到它们在世界上的部署方式，都有创新和改进的空间。既然我们不会回到没有人工智能的时代，唯一的方向就是向前。