生成式人工智能服务在互联网用户和网络犯罪分子中都大受欢迎。 据美国联邦调查局（FBI）称，"合成"内容正越来越多地被用于实施各种欺诈行为。 不过，只要采取正确的预防措施，个人仍然可以有效地保护自己的网络安全。

美国联邦调查局（FBI）已就滥用人工智能生成技术的犯罪行为发出警告。 在最近发布的一份公共服务公告中，该局警告美国人，欺诈者正在利用人工智能生成的内容来使他们的非法计划更有说服力和更有效。

据联邦调查局称，生成式人工智能使犯罪分子能够减少欺骗目标所需的时间和精力。 这些人工智能工具根据用户输入的提示"合成"全新的内容。 它们甚至可以帮助纠正可能会引起怀疑的人为错误，尤其是在人工智能生成的文本中。

用人工智能创建内容本质上并不违法，但当这些内容被用于欺诈或勒索企图时，就变成了犯罪。 联邦调查局的警报概述了生成式人工智能如何被滥用的几个例子，并提供了实用建议，以帮助用户保护自己的网络安全。

在社交工程或鱼叉式网络钓鱼活动中，人工智能生成的文本看起来极具说服力。 欺诈者正在利用人工智能生成技术制作大量虚假内容、创建虚假社交媒体资料、发送信息，并以更高的准确性和更少的语法错误翻译语言。 现在，整个欺诈网站可以在创纪录的时间内建立，聊天机器人也被用来诱骗受害者点击恶意链接。

毫无疑问，人工智能生成的图像是当前趋势的前沿，网络犯罪分子正在充分利用它们。 欺诈者正在使用人工智能生成的视觉效果来增强虚假社交媒体资料和伪造身份证件，从而支持欺诈活动。 据联邦调查局称，人工智能算法可以生成"逼真"的图像，这些图像正被用于社交工程活动、鱼叉式网络钓鱼、诈骗甚至"杀猪盘"。

人工智能生成的音频和视频内容也会带来类似的风险。 现在，犯罪分子可以冒充公众人物甚至目标人物本人，要求提供经济援助或获取银行账户等敏感信息。

联邦调查局建议用户与可信赖的家人和朋友建立一个"密语"或短语，作为验证身份的快速方法。 防范生成式人工智能犯罪的其他提示包括仔细检查图像和视频是否有异常或不一致之处，以及尽量减少个人图像或录音在网上的可获得性。

在处理金融请求时，联邦调查局强调通过直接电话而不是依赖文本或电子邮件来验证其合法性的重要性。 切勿与只在网上认识的人分享敏感信息。 虽然这似乎显而易见，但联邦调查局还重申，在网上向陌生人发送金钱、礼品卡或加密货币具有很高的风险，往往会遭遇诈骗。