AI中国网 https://www.cnaiplus.com
▲无论怎么看，在人工智能眼中这只乌龟都是把枪。
随着技术进步，人工智能(AI)的识别能力变得更精准，使用范围也越来越广，包括人脸识别、自驾车、智能监控等，人工智能可说是人类安心信赖的伙伴。然而，再精准的人工智能识别，也是有「突槌」的时候，美国麻省理工研究团队labsix打印了一只乌龟模型，无论从什么角度来看，Google的人工智能都会将其误认为一把枪。
骗过人类双眼的图片，或许你已在网络上见过许多，其实人工智能也有类似的问题存在，专家们将这些能够使人工智能产生错觉的图片称为「对抗式图像」，就如同人眼看见不存在的黑点，只要经由特定的设计，就能让人工智能判断错误，将乌龟误认为枪，而人类却几乎无法发现哪里有鬼。
就以往而言，对抗式图像虽然很神奇、且非常有效，但并非什么大问题，因为只要透过缩放、旋转，让人工智能从不同的角度进行检测，就能正确辨认出物体的实际样貌；但现在的隐忧是，由MIT制作的乌龟模型，却可从各种角度完美欺骗人工智能双眼。
▲以往只要透过翻转、缩放，人工智能 就能摆脱误判，正确识别图像。
该研究团队表示，他们已经研发出一种演算法，能轻易在每个模型里添加误判要素，使人工智能 再也无法正确识别他们制作的道具，他们还打造了一颗会让人工智能 误认为咖啡的棒球。
这项技术不只局限在3D 模型，同样手法也能应用在2D 图像上，根据《ITmedia》报导，该团队制作的3D 模型有84% 的成功率使人工智能误判，2D 图像更有94% 的成功率。
▲该团队制作的棒球，同样被人工智能看成咖啡。
「这代表人们可以轻易制作一个在一般人眼里再平常不过的标志，但自驾车却会看成突然出现在路边的行人。」Labsix提到，「随着神经网络逐渐普及，这些例子是人们必须好好思考的隐忧。」
Labsix使用Google开发的图像分类人工智能「Inception-v3」，来进行对抗式图像的测试，虽然尚未对其他识别软件进行测试，但《The Verger》指出，目前并没有软件针对这项阙漏进行修复。
虽然Google并未发表正式评论，但发言人透露几点，首先，该团队声称能从「任何角度」欺骗人工智能，但视频实际状况为「大多数角度」，而非任何角度，其次，要误导人工智能双眼，他们必须先接触视觉演算法，找出弱点，若想误导自驾车厂商的商用视觉系统，这会是个相当大的门槛。
就目前而言，对抗式图像对大众安全造成危害的可能性几乎为零，尽管效果显著，能起作用的场景却很有限，此外，目前机器视觉的应用还不是那么广泛；但随着技术发展，机器视觉会越来越普及，如果不及早解决这个隐忧，将来就有可能会招致更大的灾难。
AI中国网 https://www.cnaiplus.com
本文网址：
