如果你最近上过 TikTok，你可能会注意到一些名人推销极不靠谱产品的诡异视频，比如一个听起来像机器人的泰勒-斯威夫特（Taylor Swift）向观众承诺免费赠送一套厨具。所有这些视频都是利用人工智能生成技术制作的骗局--这也是该技术如何被用来在未经人们同意的情况下制造出令人不安的虚拟克隆人的最新例证。

不用说，这种事情已经惹恼了很多名人。现在，美国国会提出了一项新的立法，旨在打击人工智能深度伪造--特别是涉及虚假名人代言和未经同意的人工智能生成的裸体等行为，这已经成为网络和校园中的一个问题。尽管旨在生成深度伪造图像的网站和应用程序日益流行，但目前还没有一部全面的法律来禁止人工智能图像的生成。

新法案名为《禁止人工智能欺诈法案》（No AI FRAUD Act），由佛罗里达州众议员玛丽亚-埃尔维拉-萨拉萨尔（María Elvira Salazar）和宾夕法尼亚州众议员马德琳-迪恩（Madeleine Dean）提出，该法案将确立"肖像权和声音权"的法律定义，有效禁止使用人工智能深度伪造图像来非自愿地模仿他人，无论其是否在世。

法案草案宣称，"每个人都对自己的肖像和声音享有财产权"，并列举了最近发生的几起将人变成怪异人工智能机器人的事件。草案特别提到了最近的一些病毒视频，其中有人工智能生成的歌曲模仿了贾斯汀-比伯（Justin Bieber）、Bad Bunny、德雷克（Drake）和The Weeknd等流行歌手的声音。

该法案还特别针对人工智能深度伪造色情内容，称"任何包含儿童性虐待材料、性露骨或包含私密图像的数字描述或数字语音复制品"都符合该法案对伤害的定义。

拟议法案是参议院一项类似法案的配套法案，名为"培育原创、培养艺术、确保娱乐安全法案"（NO FAKES Act），该法案于去年 10 月在德雷克深情假唱事件后提出。新法案与田纳西州立法者提出的另一项名为《确保肖像权、声音和形象安全法》（ELVIS Act）的措施也在同一天提出。

鉴于这些法案似乎是对名人发飙的全部或部分回应，最大的问题是它们是否会在实践中保护普通人--而不仅仅是那些拥有数百万美元唱片合约的流行明星的知识产权。

卡莉-戈德伯格（Carrie Goldberg）是一位专门从事深度伪造和其他网络骚扰案件的律师，她告诉 Motherboard："该法案的起草确实是着眼于名人和唱片艺人对其肖像和声音所拥有的财产权。然而，我们的法律体系对待名人的知识产权与对待非公众人物的知识产权是不同的。"

戈德伯格说，最常见的例子就是狗仔队的照片。当名人的照片在未经许可的情况下被拍摄并用于商业目的时，法律允许对他们进行一些补救。但对于普通人来说，他们的照片的权利完全属于拍摄者，对于出于盈利以外的原因复制他们的形象，他们无能为力--除非他们有钱花在昂贵且往往漫长的法律程序上。

对于普通人来说，当他们的形象被利用时，通常不是为了商业利益，而是为了让他们难堪或骚扰他们；在这种情况下，不法行为者很少是有资源让受害者值得提起诉讼的人。

新法案拟规定，每个人都有权控制自己的声音和肖像，防止Deepfake，但对非名人的规定在很大程度上取决于受害人能否证明受到了伤害。具体来说，这意味着要证明"Deepfake"导致了"身体或人身伤害"，造成了"严重的精神痛苦"，或具有性暴露的性质。

当然，所有这些都只是试图规范一个更大问题的表象，那就是科技公司正在利用从互联网上采集来的数据构建庞大的人工智能系统，而对于这些系统不可避免地造成的伤害却没有强有力的缓解措施。在目前针对 ChatGPT 创建者 OpenAI 的诉讼中，该公司最近辩称，它不应该因为使用非法和受版权保护的材料来训练其人工智能模型而受到惩罚，因为"不可能"在不这样做的情况下创建人工智能系统。

但是，由 OpenAI、微软和 Meta 等公司构建的黑盒人工智能系统的性质几乎保证了这些坏事的发生。最近，研究人员在一个用于训练市场上几乎所有主要人工智能系统的海量数据集中发现了 3000 多张儿童性虐待材料图片。各家公司也在努力确保其生成式人工智能系统能过滤掉非法内容，在Google和必应的图片搜索结果中，也发现了深层伪造的色情内容。一个主要的问题是，有许多小公司或个人制作的应用程序专门用于创建未经同意的人工智能裸体，这些应用程序在主要的社交媒体平台上做广告，并在应用程序商店上出售。

戈德伯格说，归根结底，只有在建立这些人工智能系统的公司被追究责任后，这些问题才能得到彻底解决。："我们的社会真正需要的是在系统层面上打击人工智能和深度伪造，并对App Store和Google Play等主流市场上的恶意产品穷追猛打，这些产品在市场上的唯一目的就是篡改图像。我们需要向搜索引擎施压，不要引导人们使用这些产品，也不要推广发布这些图片的网站，我们需要要求它们为受害者提供简单的内容删除服务流程。"