随着文本-图像生成器和智能聊天机器人不断让人们大开眼界，中国已经迅速采取行动，规定人们可以用建立在强大的人工智能模型上的工具做什么。在涉及生成性人工智能的后果时，该国的监管机构显然倾向于谨慎行事。这与美国形成了鲜明的对比，美国到目前为止在很大程度上让私营部门制定自己的规则，这引起了道德和法律问题。

中国的最高互联网监管机构--国家网信办等三个部门最近颁布了一项关于"深度合成"技术的法规 - 《互联网信息服务深度合成管理规定》，它将其定义为"使用深度学习、虚拟现实和其他合成算法来生成文本、图像、音频、视频和虚拟场景的技术"。该规定适用于在中国运营的服务提供商，并将于1月10日生效。

这套规则中没有什么令人惊讶的地方，因为这些限制大多与监督中国其他形式的消费者互联网服务的限制一致，如游戏、社交媒体和短视频。例如，条文明文规定用户被禁止使用生成性人工智能从事危害国家安全、损害公共利益或非法的活动。

这种限制是由中国的实名制验证机构实现的。在中国的互联网上，匿名并不存在，因为用户通常被要求将他们的在线账户与他们的电话号码联系起来，而这些号码是用他们的政府身份证注册的。生成式人工智能的供应商同样被要求使用手机号码、身份证或其他形式的文件来验证用户。

中国也毫不意外地想要审查算法所能产生的内容。服务提供商必须手动或通过技术手段审核人工智能生成的内容和用户提示。百度是最早推出中文文本到图像模型的公司之一，其过滤内容的操作是相当常见的。在中国，审查是所有形式的媒体的标准做法。现在的问题是，内容审查是否能够跟上人工智能模型所产生的大量文字、音频、图像和视频的速度。

中国政府介入防止滥用人工智能，或许应该得到一些认可。首先，规则禁止人们使用深度合成技术来产生和传播假新闻。当用于人工智能训练的数据包含个人信息时，技术供应商应遵循国家的个人信息保护法规。平台还应该提醒用户在使用深度合成技术改变他人的面孔和声音之前寻求批准。最后，这一规则应缓解围绕版权侵犯和学术作弊的一些担忧。如果生成性人工智能的结果可能会引起公众的混淆或误认，服务提供者应在显眼的地方打上水印，告知公众这是机器生成的作品。

违反这些规定的用户将面临惩罚。服务运营商被要求保留非法行为的记录，并向有关部门报告。除此之外，平台还应该发出警告，限制使用，暂停服务，甚至关闭违反规定者的账户。