亚马逊回应“AI误将国会议员标记为罪犯”：默认80%置信度太低了
摘要：
针对上周曝出的“亚马逊 AI 错误匹配了 28 名国会议员的照片”一事，该公司给出了相当直接的回应。早前由 ACLU 进行的测试，使用了 25000 张由警方拍摄并公开的照片，然后借助 Rekognition 与 535 名国会议员的照片进行比较。结果表明，28 名国会议员被亚马逊 AI 认为与被捕者的面孔相匹配。然而亚马逊表示，ACLU 完全搞错了。
配图来自：Amazon Web Services（via：SlideShare.net）
亚马逊深度学习与人工智能总经理 Matt Wood 撰写了一篇博客文章，其中解释了出现错误的原因：
ACLU 使用了技术默认的 80% 置信度，才导致了容错率的提升。亚马逊建议将置信度预置设置到 99%，正如我们在文档中所推荐的那样，此时错误识别率会接近于零。
Matt Wood 接着指出，在公共安全和执法行动中，Rekognition 几乎专门用于帮助缩小范围，以便人类介入快速判断和审查，而不是全然由系统来自主决定。
当技术有了新进展时，我们都必须清楚地了解哪些是真实的、哪些又不是。
借助机器学习来识别食物对象、或用机器学习来匹配面部，必须考虑两者之间存在的差异。
执法行动是相当严肃的，因此必须将置信度水平调到更高。
有鉴于此，亚马逊仍然建议不要在执法行动中使用低于 99% 的置信度水平。
即便如此，机器学习仍然是一款相当有价值的工具，只是它应该被正确地使用，而不是被无脑的全盘抛弃。
此前，ACLU 方面基本上要求联邦政府强制暂停使用 Rekognition 这款 AI 工具。
热门评论
>>共有0条评论，显示0条