Facebook：一个漏洞导致一些没有违反其规则的内容被错误地删除

Facebook在第一季度对250万条被标记为有组织仇恨的内容采取了行动，比2021年第四季度的160万条有所增加。该社交网络在第一季度还对1600万条恐怖主义内容采取了行动，比第四季度的770万条增加了一倍多。Meta公司将这一高峰归因于其媒体匹配技术中的一个漏洞。该公司季度标准执行报告中的一张图表显示，该社交网络恢复了超过40万条被错误标记为恐怖主义的内容。

Meta的照片和视频服务Instagram也因为这个漏洞对更多的恐怖主义和有组织的仇恨内容采取了行动。这个漏洞也影响了其他类型的内容。报告说，由于这个问题，Facebook在第一季度恢复了34.56万条被标记为自杀和自残的内容，比第四季度的95300条有所增加。该社交网络还在第一季度恢复了超过68.78万条被错误标记为性剥削的内容，比上一季度的18.06万条有所增加。

这些错误引起了人们对Meta公司的自动技术运作情况的质疑，以及是否存在其他未被发现的漏洞或错误。该公司表示，它一直在采取更多措施，防止内容审核错误的发生。Meta正在测试新的人工智能技术，从上诉和恢复的内容中学习。Meta公司诚信副总裁Guy Rosen在周二的新闻电话会议上说，它还在试验在社交网络对违反规则的人进行处罚之前给他们更多的提前警告。

Rosen说，当误报被输入其媒体匹配技术时，它将它会“散开”并删除大量没有违反平台规则的内容。“我们必须非常谨慎地对待在发生扇出之前进入系统的所谓种子。在这种情况下，我们所遇到的是引进了一些新技术，这给系统带来了一些误报，”Rosen补充说，内容后来被恢复了。

与此同时，Facebook也面临着在恐怖主义内容传播之前没有将其删除的审查。上周末，官方称被指控在布法罗市一家杂货店向10名黑人开枪致死的白人男子在Twitch上发布的直播视频，也在Facebook和Twitter等社交网络上传播。《华盛顿邮报》报道，该视频副本的链接出现在Facebook上，被分享了46000多次，收到了500多条评论。Facebook在10多个小时内没有删除该链接。

Rosen说，在公司知道了这起枪击事件后，员工们迅速将该事件定为恐怖袭击，并删除了该视频的任何副本以及官员们所说的枪手长达180页的充满仇恨的言论。

Rosen说，挑战之一是人们创建新版本的视频或链接，试图逃避社交媒体平台的执法。他说，该公司与任何发生的情况一样，将完善其系统，以更快地发现违规内容。Rosen补充说，关于Facebook正在考虑采取哪些具体措施，他没有更多的细节可以分享。