微软新的AI编辑在识别有色人种出现失误 为转载文章配上错误图片
在过去的十年里,各种科技行业都在颂扬人工智能的优点及其在人类未来的地位。不幸的是,并不是所有的好处都平等地延伸到了每个人身上,最近微软的一次失误再次凸显了人工智能对有色人种的持续盲点。最近几个月,美国发生了数名有色人种被警察杀害的事件,导致全美各地爆发抗议示威游行。微软新的人工智能发布软件推送了一篇报道,涉及种族主义对双性恋歌手Jade Thrilwall的个人影响,但却出现了错误的混血表演者的照片。
虽然这篇报道是关于Jade和她对种族主义的反思,但特写的图片却是乐队成员Leigh-Anne Pinnock,英国女团Little Mix的另一位混血歌手。虽然根据Jade的说法,这显然是一个重复发生的事件,Jade在社交媒体上特别指出微软的失误。
"@MSN 如果你要复制粘贴其他精准媒体的文章,你可能要确保你使用的是正确的混血成员的图像。"
"这一直发生在@leighannepinnock和我身上,它已经成为一个运行的笑话,"她说。"这让我很不爽,你不能在一个组合的四个成员中区分出两个有色人种的女性......做得更好!"
这一失误发生在微软正在解雇数百名人类编辑人员,以支持自己的人工智能编辑平台的消息发布后的几天。尽管科技行业对人工智能的发展信心满满,但在涉及有色人种时,这款软件的关系依然不稳定,有报道称,最好的算法也难以平等地识别黑人面孔,甚至微软自己的人工智能机器人Tay也使用了种族歧视的言辞,将黑人比作猴子。
当《卫报》鉴于其最近的编辑部缩编而面对这篇文章时,微软发言人回应说:"当我们意识到这个问题后,我们立即采取行动解决,并已更换了错误的图片。"遗憾的是,微软的AI编辑错误似乎并没有让该公司暂停继续转变新的新闻发布流程,相反,剩下的员工正在被指示清理其AI替换造成的混乱。
因为他们无法阻止新的机器人编辑从《卫报》等外部新闻网站上选择故事,所以剩下的人类员工被告知要保持警惕,如果机器人认为这篇文章是感兴趣的,并自动在MSN.com上发布,那么他们就要删除这篇文章的一个版本。他们还被警告说,即使他们删除了它,机器人编辑也可能会否决他们,并试图再次发布它。