权力机构正在意识到人工智能的潜力和隐患。最大的问题是，如果（以及一旦）出现失误，他们将对前进的步伐产生多大的影响。昨天，联合国宣布成立一个新的人工智能咨询委员会--由来自政府、学术界和产业界的 38 人组成，旨在"对人工智能的国际治理进行分析并提出建议"。

联合国表示，该咨询委员会将作为一个桥梁小组，涵盖国际组织围绕人工智能提出的任何其他倡议。事实上，在制定人工智能战略和方法的过程中，联合国已经与行业领袖和其他利益相关者进行了长达一个月的讨论。计划是在 2024 年夏天之前提出有关人工智能的建议，届时联合国计划举行一次"未来峰会"活动。新的咨询委员会将于今天举行首次会议。

咨询委员会表示，该机构的任务是"就风险和挑战达成全球科学共识，帮助利用人工智能实现可持续发展目标，并加强人工智能治理方面的国际合作"。

在成立之初，该委员会最值得关注的是其总体上积极的定位。现在，有很多人都在谈论人工智能的风险，无论是国家安全威胁、数据保护还是错误信息；下周，该领域的一些全球领导人和专家将齐聚英国，试图在人工智能安全峰会上解决其中的一些问题。目前还不清楚这些倡议以及其他在国家和国际层面上形成的倡议将如何协同工作，或在其管辖范围之外实施任何措施。

与联合国的精神相一致的是，这个由38人组成的小组--其中包括来自Alphabet/Google和微软的高管、至少一位"数字人类学家"、多位教授和政府官员--是一个高层次的小组，更多地是采取积极到建设性的立场，重点关注国际发展。

"人工智能可以推动人类取得非凡的进步。从预测和应对危机，到推出公共卫生计划和教育服务，人工智能可以全面扩大和增强各国政府、民间社会和联合国的工作，"联合国秘书长安东尼奥-古特雷斯谈到该小组的目标时说。"对于发展中经济体来说，人工智能提供了跨越过时技术的可能性，并将服务直接带给最需要的人。人工智能的变革潜力甚至难以把握"。

联合国提到了该小组的"桥梁"作用，它可能会参与"人工智能造福"之外的更多重要探索。加里-马库斯（Gary Marcus）参加了九月份在"颠覆"（Disrupt）大会上举行的一次"炉边谈话"（fireide chat），谈论人工智能的风险。虽然在生成式人工智能等领域的新创新无疑将这项技术推向了大众市场的前沿和中心，但马库斯对挑战的阐述也强调了一些更令人担忧的方面：

"我对人工智能最大的短期担忧是，大量制造的错误信息、蓄意制造的错误信息会破坏民主，之后还会发生各种各样的事情。我最大的长期担忧是，我们不知道如何控制现在正在构建的人工智能，也不知道如何控制未来正在构建的人工智能。这样一来，我们就有可能让机器做各种我们没打算让它们做的事情。"