在AI深度伪造（Deepfake）威胁日益严重的刺激下，美国联邦贸易委员会正在寻求修改一项禁止假冒企业或政府机构的现有规则，以涵盖所有消费者。修订后的规则 - 取决于最终措辞和 FTC 收到的公众意见还可能规定，生成式AI平台提供明知或有理由知道被用于通过冒名顶替伤害消费者的商品或服务的行为是非法的。

"欺诈者正在利用人工智能工具以令人毛骨悚然的精确度和更大的规模冒充个人，"联邦贸易委员会主席莉娜-汗在一份新闻稿中说。"随着语音克隆和其他人工智能驱动的欺诈行为不断增加，保护美国人免受冒名欺诈比以往任何时候都更加重要。我们建议对最终的冒充规则进行扩展，这将加强联邦贸易委员会的工具包，以应对人工智能驱动的冒充个人的欺诈行为。"

不只是泰勒-斯威夫特（Taylor Swift）这样的人需要担心假新闻。涉及"假冒"的网恋诈骗也在增加，骗子们还冒充公司员工从公司榨取现金。

在 YouGov 最近的一项民意调查中，85% 的美国人表示，他们非常担心或有些担心误导性视频和音频深度伪造的传播。美联社-NORC 公共事务研究中心的另一项调查发现，近 60% 的成年人认为，在 2024 年美国大选周期，人工智能工具将加剧虚假和误导性信息的传播。

上周，美国联邦通信委员会（FCC）通过重新解释禁止人工和预录垃圾信息的现有规则，将基于AI的自动语音电话定为非法的举措。针对美国总统拜登的电话诈骗活动希望阻止新罕布什尔州公民的投票热情，这一规则的改变以及联邦贸易委员会今天采取的措施是联邦政府目前打击深度伪造和深度伪造技术的主要手段。

没有联邦法律明确禁止Deepfake。理论上，名人等高知名度的受害者可以求助于更传统的现有法律补救措施进行反击，包括版权法、肖像权和侵权行为（如侵犯隐私、故意造成精神痛苦），然而这些拼凑起来的法律可能会耗费大量时间和精力来进行诉讼。

在国会未采取行动的情况下，全美已有 10 个州颁布了法规将Deepfake定为刑事犯罪，尽管大部分是未经同意的色情内容。毫无疑问，随着深度假新闻生成工具的日益复杂，我们将看到这些法律得到修订，以涵盖更广泛的深度假新闻，并通过更多的州级法律，(明尼苏达州的法律已经明确针对政治竞选中使用的Deepfake假新闻）。