在上个月的初选中，一条被设计成美国总统拜登声音的信息告诉新罕布什尔州居民不要投票，美国联邦通信委员会（FCC）正着手将人工智能生成的声音用于自动语音电话的行为定为非法。该机构担心音频深度伪造技术被用来通过模仿"名人、政治候选人和近亲属"的声音来混淆和欺骗消费者。

FCC 主席杰西卡-罗森沃塞尔（Jessica Rosenworcel）的提案将规定，根据《电话消费者保护法》（TCPA），使用人工智能生成的声音拨打抢答电话属于非法行为。

1991 年的 TCPA 法律限制电话营销、使用自动电话拨号系统和人工或预先录制的语音信息。该法还要求电话营销人员在给消费者拨打声讯电话之前，必须事先获得消费者的明确书面同意。FCC 希望人工智能生成的声音也能遵守这些标准。委员会的五位成员预计将在未来几周内就该提案进行投票表决。

"人工智能生成的语音克隆和图像已经在播撒混淆视听的种子，诱使消费者认为诈骗和欺诈是合法的，"罗森沃塞尔在一份声明中说。"不管你喜欢哪位名人或政客，也不管你与亲属的关系如何，当他们打电话求助时，我们都有可能成为这些伪造电话的目标。"

语音欺诈检测公司Pindrop分析了这条听起来像是拜登告诉新罕布什尔州居民不要投票的39秒假消息，发现它是利用ElevenLabs公司的文本到语音引擎制作的。这家初创公司使用人工智能软件复制了二十多种语言的声音。

据彭博社报道，ElevenLabs 公司证实在新罕布什尔州事件中使用了其软件，并封禁了肇事账户。新罕布什尔州总检察长办公室已宣布对假冒拜登的电话进行调查。

联邦通信委员会发言人表示，对法律的潜在修改将赋予各州总检察长新的权力，以打击使用人工智能的声讯电话骗子，同时保护消费者。

多年来，联邦通信委员会一直在与自动语音电话作斗争。2022 年 12 月，联邦通信委员会提议对一个非法的跨国机器人呼叫行动小组处以 3 亿美元的罚款，该行动在 2021 年的三个月内向 5 亿多个电话号码拨打了 50 多亿次自动电话。2020 年，该局还对误导性自动语音电话处以 2.25亿美元的罚款。

生成家庭成员的声音已成为犯罪分子从毫无戒心的受害者那里偷钱的常用手段。随着人工智能生成技术变得更容易获得、更便宜、更有说服力，这种犯罪也在不断增加。