据《英国医学杂志》(BMJ)报道,"深度伪造"(deepfake)技术正被用于制造英国电视名医在社交媒体上为保健产品代言的欺诈行为,这使得识别和消除这些误导性视频的工作变得更加复杂。
英国《医学杂志》(The BMJ )今天(7 月 18 日)发现,英国一些最知名的电视医生越来越多地在视频中被"深度伪造",以便在社交媒体上推销骗人的产品。
记者克里斯-斯托克尔-沃克(Chris Stokel-Walker)解释说,包括希拉里-琼斯(Hilary Jones)、迈克尔-莫斯利(Michael Mosley)和兰甘-查特吉(Rangan Chatterjee)在内的可信名字被用来推销声称能治疗高血压和糖尿病的产品,甚至销售大麻软糖。
深度伪造是指利用人工智能(AI)将真人的数字相似影像映射到非真人的视频上。很难找到可靠的证据来证明它有多令人信服,但最近的一项研究表明,有多达一半的人在观看深度伪造视频谈论科学话题时,无法将它们与真实视频区分开来。
约翰-科马克(John Cormack)是埃塞克斯郡的一名退休医生,他与《英国医学杂志》合作,试图了解社交媒体上所谓"深度伪造医生"的规模。
他说:"最重要的是,把钱花在制作视频上,要比花在研究、开发新产品和以传统方式将其推向市场上便宜得多。"
深度伪造技术专家亨利-阿吉德(Henry Ajder)表示,社交媒体上出现的大量盗用热门医生和名人肖像的可疑内容,是我们当前所经历的人工智能革命的必然结果。"可用于语音克隆和头像生成的人工智能工具的快速民主化,改变了欺诈和冒名顶替的格局"。
琼斯说:"这类活动大幅增加,"他雇佣了一名社交媒体专家在网上搜索歪曲他观点的深度伪造视频,并试图将其删除。"即使你这么做了,它们也会在第二天以另一个名字出现"。
Meta 公司的发言人告诉 《英国医学杂志》:"我们将对《英国医学杂志》强调的例子进行调查。我们不允许蓄意欺骗或试图欺诈他人的内容,我们一直在努力改进检测和执法。我们鼓励任何看到可能违反我们政策的内容的人进行举报,以便我们进行调查并采取行动。"
斯托克尔-沃克写道,"深度伪造"通过利用人们的情感来达到目的,而当涉及到医疗产品时,与向你介绍神奇药物或神奇医疗产品的人之间的情感联系就显得尤为重要。
一个你不认识的人试图向你推销某种治疗方法的优点,这可能会引起你的怀疑。但如果他们是你以前在社交媒体、电视或广播上见过的人,你就更有可能相信他们所说的话。
阿吉德说,随着技术的进步,识别深度伪造也很棘手。很难量化这种新形式的深度伪造欺诈有多大效果,但现在流传的视频数量越来越多,这表明坏人正在取得一些成功。
对于那些肖像被盗用的人来说,他们能做的似乎很少,但斯托克尔-沃克提供了一些提示,告诉你如果发现了深度伪造,应该怎么做。例如,仔细查看内容,确保你的怀疑是有根据的,然后留言质疑其真实性。使用平台内置的举报工具表达你的疑虑,最后举报分享帖子的人或账号。
编译自/ScitechDaily