返回上一页  首页 | cnbeta报时: 03:34:13
3D海龟点中谷歌视觉识别AI的“完全死穴”
发布日期:2017-11-03 14:18:58  稿源:cnBeta.COM

谷歌公司目前已经从“移动优先”战略向“AI优先”战略发展,从DeepMind取得的成功和近期发布的谷歌服务和产品中,构建于神经网络和深度学习的人工智能的先进程度给人们留下深刻印象。但是一项麻省理工学院labsix团队最新的研究实验却表明,谷歌人工智能视觉识别AI系统(应用于AI视频分类器)对于一只3D打印的海龟毫无辨识能力,不管从任何角度谷歌AI都无法准确识别出这是只海龟,研究人员将之称为“3D视觉干扰对象”似乎点到了谷歌视觉识别AI的“完全死穴”。

rifle_turtle.0.gif

就像“光学视觉干扰”图形通常能够欺骗人类视觉系统,有很多含有特殊图型的图像/对象都能够欺骗人工智能,比如你可以戴上“视干扰眼镜框”让AI脸部识别系统完全把你错认为他人,你也可以在图片中加上一个特殊纹理让其隐身。不过这些特殊纹理/图案一旦变换角度,计算机就有可能准确识别出。现在科学家似乎找到了一件能够彻底戏弄AI视觉识别系统的3D物体,无论从哪个角度,谷歌AI都会将这只3D海龟错误识别成一把步枪。

麻省理工学院labsix团队今日发布了研究结果,团队测试的对象是谷歌InceptionV3视觉识别引擎,被应用于视频分类器,是经过谷歌神经网络和机器学习技术,通过大数据训练的成熟AI技术。

adversarial_attack_counter.png

labsix团队指出,InceptionV3会错误地识别一只虎斑猫的2D图像为“鳄梨酱”,不过稍微将图像旋转一些角度,计算机识别出图像中可能是“虎斑猫”或“埃及猫”的概率增加,但认为其是“鳄梨酱”的概率仍然很高。随后,团队制作了一个实体版的3D物体一个含有特殊条纹的“3D海龟”交给InceptionV3识别,结果发现,无论从哪个角度,哪个视点,InceptionV3都会错误地将它识别为步枪。研究人员同样用特殊图案打印了一个棒球,同样从多角度欺骗了InceptionV3,人工智能引擎会将他认为是一杯浓缩咖啡。

turtles_and_baseballs.jpg

查看网友评论   返回完整版观看

返回上一页  首页 | cnbeta报时: 03:34:13

文字版  标准版  电脑端

© 2003-2024