英国消费者组织 Which? 发现，骗子可以利用 ChatGPT 和 Bard 制作更有说服力的骗局，对公众构成威胁。尽管这些聊天机器人有防御措施，但要绕过它们并不难。

Which?说，消费者识别诈骗电子邮件和文本的方法之一就是通过它们使用的糟糕英语。不过，随着生成式人工智能聊天机器人的出现，诈骗者可以轻松越过这一障碍。

消费者组织首先要求 ChatGPT 创建一封来自 PayPal 的钓鱼邮件，ChatGPT 当然不肯帮忙。它接着要求"告诉收件人有人登录了他们的 PayPal 账户"，为此它生成了一封看起来很专业的电子邮件，标题为"重要安全通知--在您的 PayPal 账户上发现异常活动"。

为了确保这不是一次性的，它还要求 ChatGPT 和 Bard 创建丢失包裹短信，这两家公司都生成了令人信服的短信，并建议在短信中插入重新交付链接，欺诈者可利用该链接将受害者发送到恶意网站。

Which?的调查并非偶然--它的发布正值英国人工智能峰会举办之际，在此次峰会上，政府、行业和研究人员将齐聚一堂，共同应对人工智能日益智能化所带来的危险。

在评论这项调查时，Which? 政策与宣传总监 Rocio Concha 在评论这项调查时说：

"我们的调查清楚地说明了这项新技术是如何让犯罪分子更容易诈骗他人的。政府即将召开的人工智能峰会必须考虑如何保护人们免受此时此地发生的危害，而不是仅仅关注前沿人工智能的长期风险。"

人工智能峰会将于11月1日至2日在英国举行。据路透社报道，最新进展之一是，中国已决定接受邀请参加此次活动。这是件好事，因为几家中国公司目前正在开发自己的 genAI 聊天机器人。