脸黑不用怕 微软的面部识别率提升20倍

该公司表示，他们一直在训练数据集更为强大的AI工具，目前已经取得了进展。“如果我们用训练的机器学习系统来模拟在有偏见的社会中做出决策，同时使用该社会所产生的数据，那么这些系统必然会重现它的偏见，”微软高级研究员汉纳瓦拉赫在博客文章中说。

今年2月，麻省理工学院媒体实验室的一份报告称，他们测试了微软，IBM和中国的Megvii的面部识别系统，发现多达35％的深色皮肤女性的性别不能被系统正确识别。

该报告证实了许多人多年来一直怀疑的情况，即面部识别系统可能会受到有限的数据和其他因素如种族主义的偏见的影响。如研究人员可能觉得女性的肤色不会那么深，同时也没有足够的数据让系统学习，就可能导致深色皮肤的女性被错误识别成男性。

早在2015年，谷歌就在一张照片中将一位黑人软件工程师认定为“大猩猩”，谷歌后来也不得不为这个错误道歉。

尽管今天微软宣布减少人脸识别系统中的种族偏见，但如果执法部门掌握了改进的面部识别工具，那么对于有色人种如何实施可能会引发什么问题，以及这是否会加剧已存在问题。

微软今年1月公开宣布，将与美国移民及海关执法局(ICE)合作，帮助该部门进行人脸以及身份识别，但这一消息一出就引起了包括微软员工在内的民众们的强烈抗议，很多人呼吁微软员工进行抗议或者辞职。

微软首席执行官Satya Nadella上周在一份备忘录中澄清说，“微软并未与美国移民及海关执法局达成任何有关于拆散边境家庭的合作。微软对强制将儿童从边境家庭分离的行为深感痛心，同时将极力敦促有关部门改变立场以及国会通过相关法规来改善现状。”