科技来电：如何逃过人工智能的慧眼？

<656期>智电网讯：我们人类的眼睛不只是用来看的，也是心灵上的窗口，用眼睛去看，用心去感受，眼睛对于我们人类来说是必不可少的器官之一。人工智能的眼睛我们可以说它只是一个很普通的摄像头，当然，以前的人工智能可以说只是搭载了一颗普通的图像传感器。

如今，现在科技发展的速度非常快，对于一颗图像传感器，它可以为计算视觉提供3D数据获取设备的深度摄像头，这个深度摄像头应该说是AI领域中的慧眼，它也是对AI来说一种视觉感知，为什么这么说呢，我们人类对世界的感知大约80%是通过眼睛获取的。计算机视觉使得人工智能看懂世界，典型的技术包括图像识别，人脸识别，视频监控等等。

在人工智能技术构建出的未来世界蓝图中，有大量装置是通过机器视觉这一基础技术实现的。GPU的广泛应用给了机器快速处理图片的能力，神经网络让机器可以理解图片。

1、欺骗AI慧眼不是一件容易的事情

大家还记得去年苹果推出的iPhone X手机吗？这款手机的前置镜头采用多种黑科技摄像头结构，这款手机不只是搭载最普通的图像传感器，还搭载深度摄像头与神经网络等等技术核心，这些都跟机器视觉有很大的关系。不过机器视觉和人类视觉也是有差异的，比如说在出现误差方面，机器和人类就有很多不同。

当然，如果想欺骗人工智能的慧眼，只需改变几个像素点，就能得到意想不到的差距变化。就像这张照片，前一秒神经网络还有 57.7% 的把握认为它是一只熊猫，可在经历过一点点处理后，神经网络竟然有 99.3% 的把握认为这是一只长臂猿。可对人类来说，这两张照片几乎没有区别。

出现这种情况的原因是，人类和机器对于"视觉"这个概念的理解是很不一样的。人类的视觉来自于对事物的整体理解，建立于长久以来对世界的认识之上。我们看到毛茸茸的东西就会认为是动物，看到羽毛就会认为是鸟。这样的模式让我们的视觉是感性甚至是模糊的，不光可以分辨我们认识的物品，甚至可以去分辨我们从没见过的物品。

点评：机器的视觉模式算法本质上是一个分类器，通过层层神经网络去分辨一张图片是不是猴子、是不是水杯。最后告诉人们这张照片有90%的可能是水杯，还有40%的可能是一颗树。这时要想让机器产生错觉就很容易了。在机器眼中，一张图片只是无数像素点的排列，如果轻微的改变这些像素的排列，让他们越过这个临界点，机器就会犯错。要不机器会把两张人眼中完全一样的图片看成是两种完全不同的东西，要不会把一张不知所云的图片看成物品或动物。

2、只要让人工智能在分析上变糊涂就可以

AI变的糊涂通过我们人类不断欺骗也不一样能成功，但如果研发一个新病毒就可以攻击人工智能的慧眼，让AI变得更加糊涂。目前有一个能直接攻击机器视觉的" 新病毒 "，我们可以管它叫做 对抗样本 "。但对不同的机器学习算法会有不同的样本生成方式，最终目的只有一个，那就是混淆机器的视觉。

目前，大部分对抗样本为了加强机器视觉的精确度而特地生成的。很难自然发生在现实应用场景中，毕竟你不能改变自己脸上的像素点分布。尤其当对方不能直接访问算法模型时，制造出对抗样本的成本也会很高。

看到以上的几个图案，我们人类会有什么感觉？或许会认为是哪个新锐艺术家的"迷幻大作"吧。可机器看到这些图案，会立刻被迷的晕头转向，分不清眼前的图案是什么了。谷歌的专家做了一组实验，把这些小圆图案放到机器能分辨的图片上，机器就会立刻给出不同的答案。

点评：神经网络识别物体依靠的是图片中的特征，只要某一分类的特征浓度够高，神经网络就会忽略其他因素，直接给出答案。这些迷幻的小圆片，可以被理解为某一种物体特征的高度浓缩，出现在图片中时，神经网络就会立刻被这些特征吸引，忽略图片中的其他信息。也就是说，现在我们可以把这些小圆片批量加入到图片当中，让他们去批量欺骗神经网络。

3、一张神奇小贴纸能逃过AI的慧眼

制作对抗样本一下子变成了一种成本极低的事情，可能只要一张贴片，就能欺骗过整个模型。此外最可怕的是，如果用机器视觉来检测毒品、武器等等，是不是也能用这种方式逃之夭夭？这种方式可能让对抗样本进入物理世界。以往我们不能改变真实世界中的像素点，但如果把这些小图案变成贴纸粘在各个地方，或许就可以改变很多东西。

例如,自动驾驶通过摄像头来识别交通标示，如果在限速、停止牌上都贴上贴纸，驾驶系统会不会将其视若无物，让整个世界乱套？而犯罪分子想要让自己的面孔从天网中逃离，也不必像《换脸》中一样动刀整容，只要在脸上贴张贴纸，就变成了行走的吐司机。

当然了，这几张贴纸也无非是提出了一种假设而已，并不是现在就可以利用它们做什么坏事。但这场实验告诉了我们，人工智能的安全程度可能比我们想象中要低得多。让人工智能进入物理世界，恐怕还要再多做点准备呢。

点评：对于人工智能还有很多我们需要慢慢领悟的技术核心，虽然这三方面可以有效的欺骗过目前人工智能的慧眼，但如今的发展也在不断更新，不断改进，我们难以想象未来的AI会给我们带来什么样的变化，在2018年手机也开始研发AI芯片，它可以在我们人类生活中给我们看到便利，但可怕的是，安全性和依赖性这都是我们人类所要考虑到的，在新的一年里我们去期待新的AI会带来哪些体验吧。

好了，本期科技来电 到此结束，我们下期见。

新鲜资讯，热辣点评，尽在科技来电！