Twitter向Deepfake等虚假内容出击:将打警告标签
Twitter周二表示,将开始对包含人工合成或欺骗性媒体内容的Twitter消息打标签。在2020年美国总统大选之前,Twitter正准备应对假新闻泛滥的问题。Twitter同时表示,将删除任何可能造成伤害、蓄意误导的媒体内容,包括可能带来人身安全威胁、社会混乱、打压选民或隐私风险的内容。
关于如何应对Deepfake视频这种新出现的威胁,社交媒体公司在过去一段时间中面临压力。这类视频利用人工智能技术,创造出非常逼真,但实为捏造的内容。这类视频的内容通常是某人说了什么,做了什么,但与真实情况完全不符。
Alphabet旗下YouTube本周早些时候表示,将删除任何经过技术修改,并可能构成“严重伤害风险”的内容。
Facebook上月则表示,将从网站上删除Deepfake视频,以及其他蓄意篡改的视频,但将保留讽刺性内容,以及在编辑中“仅仅是省略或改变词序”的视频。
根据新政策,Twitter将对任何“明显且欺骗性地编辑或捏造”的照片和视频打上“虚假”警告标签。不过,Twitter不会区分是用什么技术来修改媒体内容。Twitter网站诚实性负责人约尔·罗斯(Yoel Roth)表示:“根据这项政策,我们的关注重点是结果,而不是过程如何实现。”
他没有透露,Twitter将投入什么样的资源来发现这些被篡改的媒体内容,但同时表示Twitter将考虑用户的报告,并与“第三方专家”合作去识别内容。