从“机器人伤人事件” 看人工智能是否值得警惕

提起科幻电影，可能很多人对《我，机器人》印象深刻，这部电影为我们描绘出一幅人类与机器人相处的场景，其中的机器人甚至有了“情感”、甚至与人类为敌。

70年前，艾萨克•阿西莫夫《我，机器人》小说中，提出机器人学三大定律：第一定律：机器人不得伤害人，也不得见人受到伤害而袖手旁观。第二定律：机器人应服从人的一切命令，但不得违反第一定律。第三定律：机器人应保护自身的安全，但不得违反第一、第二定律。

.

也是从这之后，人工智能的问题开始被关注，也出现了各种各样恐慌的声音。尽管在之后的几十年中，机器人的发展依然停留在程序控制阶段，不过最近发生的一件事，是否在告诉我们，人工智能已经到了足以引起重视的时候？到了值得警惕的时候？

“机器人伤人事件” 是事实还是夸大其词？

近日，一则关于机器人伤人的消息刷遍朋友圈，据悉，在深圳高交会上，一个名叫“小胖”的机器人，在“没有指令”的情况下，开始打砸展台玻璃，并砸伤路人，一位路人全身多处划伤后被担架抬走。而现场照片也被一起传了出来。

关于该事件，高交会组委会在官网给出了解释：11月17日下午13时50分左右，第十八届高交会1号馆1D32展位深圳展景世纪科技有限公司展台发生意外事件。由于该展商工作人员操作不当，误将“前进键”当成“后退键”，导致用于辅助展示投影技术的一台机器人（又名“小胖”，北京进化者机器人科技有限公司生产）撞向展台玻璃，玻璃倒地摔碎并划伤一名现场观众，致其脚踝被划破流血。意外发生后，高交会驻场医务人员立即到场进行紧急处理和包扎，并随即用救护车将该伤者送往北京大学深圳医院。经医院详细检查，该伤者脚踝缝两针后自行回家。

高交会组委会同时称，经向展商和机器人生产企业了解，该款机器人于2015年11月23日在世界机器人大会上首次面世，目前已获得国内相关安全认证。关于此次意外的详细原因正在进一步核实中。

在该事件的第二天晚间，北京进化者机器人科技有限公司也在其官方微博发布了正式声明。声明称，11月17日13时30分左右，在1号展馆D32号展位（小胖的投影机供应商）旁通道内，参展人员试图将一台面罩打开的小胖机器人移动到展位内时，误将后退键按成前进键，并未及时按停，导致另一侧展台的玻璃被部分碰倒摔碎，玻璃划伤了另一侧展台内的一名观众，全过程持续约10余秒。

根据高交会和该公司的声明来看，这个事件并不是大家想象中的“具备自主意识”，更别提“具备杀伤力”，个人或者媒体，难免会用一些吸引人的眼球的词描述事件。况且，这款机器人并不是一款人形机器人，此次事件只能算作由操作失误引起的玻璃伤人事件，想要为机器人戴上“自主意识”、“具备杀伤力”的帽子，还是太不理智了。

“机器人伤人事件”并不鲜见 原因多是机器故障、操作失误

事实上，类似这次“机器人伤人事件”并不鲜见，大多数都可以用机器故障、没有遵守操作规则来概括。

比如，发生在去年的、沸沸扬扬的“德国大众工厂机器人伤人事件”，该事件也同样经过用户或者媒体的加工，将机器人伤人事件变得更像是“具备自主意识的机器人伤人事件”。

大多媒体对德国大众工厂机器人伤人事件进行的描述为：据报道，德国大众位于卡塞尔附近的一家工厂发生悲剧，一名技术人员因突遭机器人“攻击”不幸丧生。这名技术人员事发时正与同事一起安装机器人，但原本处于静止状态的机器人却突然“抓住”他的胸部，然后“使劲压在”一块铁板上，最后技术人员因伤重不治而亡。这样的报道难免令人想到类似科幻电影中的情节。

大众集团发言人对此事的回应是，这台机器人并没有出现技术故障，推断事故是由人为错误导致。据报道，这名死者的工作和汽车制造无关，是安装机器人和机器臂的专业人士。由于作出了违反安全规定的动作，他进入了安全笼进行机器臂安装的工作。

不止是伤人事件，在某些媒体的眼中，机器人还会“自焚”。2014年，一个奥地利商人买了家务机器人，该机器人被用作清理早餐遗落的残渣。但是后来的某一天，这个机器人“爬上”炉子把自己烧成了灰烬。它“自焚”的原因不明，但当地媒体戏称它是因为不堪家务琐事才选择了“自杀”。由于机器人自焚导致的浓烟毁坏了房子，该商人向机器人公司申请赔偿。这个事件中，机器人同样被媒体加入了吸引人的词汇，以表现的像是“具备自主意识”。

这样，我们就不难想象，肯定也会有机器人有“喜怒哀乐”。在马来西亚吉隆坡有一家日本风味的机器人主题餐厅。该餐厅有各式各样的机器人，寿司机器人、煮面机器人、炒菜机器人、送餐机器人、清洁机器人、迎宾机器人等。在2007年的某一天，炒菜机器人将虾仁炒糊，当愤怒的餐厅老板夫妻到厨房看个究竟时，这个机器人突然向老板一巴掌拍了过去。啪！它又给了其妻一大耳光。看来，它对老板很不满意。后来查明：“打人”的机器人是受厨房附近的高频电磁波干扰才失手，并不是它自己想抽老板。

盘点这些与机器人相关的伤害事件，我们发现几乎都是机器故障或者操作失误、亦或者未按规定操作等，每个机器人都接受人类控制，有的是运行预先编好的程序，有些则是根据人工智能原则行动，但他们毕竟是被设计出来的，由于这样或那样的原因，出现差错反而倒是正常，若是将这种差错归为“机器人意识”，是不是偏离了事实呢？

大佬们怎么看人工智能？

那么，这是否意味着，我们对机器人、人工智能完全不必担心？

作为站在机器人威胁论的一方，马斯克说过，我们的人工智能系统，必须按照我们的意愿工作。不受控制的人工智能可能比核武器更危险。

关键是，马斯克并不是只过过嘴瘾，接下来向未来生命研究所捐赠了1000万美元，希望能够帮助科学家们研究如何才能研发出安全可靠的人工智能，让人类始终拥有控制人工智能机器人的最高权限。

霍金的观点和马斯克的有些相像，他说，“人工智能计算机可能在接下来的100年之内就将人类取而代之。如果这样的事情成为了现实，我们必须确保计算机和我们站在同一战线上...我们的未来是一场不断增长的科技力量与人类使用科技的智慧之间的竞争。”

比尔•盖茨：“如果我们能够很好地驾驭，机器能够为人类造福，但如果若干年后机器发展得足够智能就将成为人类的心头大患。”

他们三个人，可以说是站在对人工智能担忧的一方，他们的担心或许并不是夸大其词。从近代开始，科技的发展越来越迅猛，尖端科技越来越令人感到不可思议，仅仅我们手中的手机，就包含了语音输入、指纹识别、聊天机器人等各种形态的高科技，未来十年内，科技发展到何种地步，现在的我们几乎已经无法预料。

人工智能在这两年的大热，也已表现出了足够吸引人的能力，比如阿尔法狗战胜人类九段棋手李世石，人工智能第一次这样引人关注。拥有如此能力的人工智能，假如不受控制，会变成什么样？是变成《钢铁侠》中的贾维斯呢？还是变成《复仇者联盟2:奥创纪元》中的奥创呢？

写在最后：

就目前人工智能的发展水平来看，其始终无法脱离人工控制、程序控制、算法控制等，想要发展为具备人类“思考”能力的人工智能，并不是一件容易的事，至少在现在，我们还没有看到这种人工智能的影子。

另一方面，许多名人对人工智能表现出了极大的警惕，他们在专业领域走的更深更远，想必得出这种结论也是深思熟虑的结果吧，也许在未来，具备“思考”能力的机器人真的会出现呢。