机器人又伤人了！接下来我们该如何造更安全的机器人

11月17日下午13时50分左右，第十八届高交会1号馆1D32展位、深圳展景世纪科技有限公司展台发生意外事件，一台名为“小胖”的机器人(北京进化者机器人科技有限公司制造)突然自行打砸展台玻璃，最终导致部分展台被破坏，还砸伤了路人，网上流传出受伤者被担架抬离展馆的图片。

此事迅速在机器人圈甚至更大的范围扩散。有称这是“机器人原力觉醒”，也有称这是工作人员操作不当造成。究竟真实原因是什么?机器人会有“原力觉醒”吗?当机器人越来越多，科幻电影里的“机器人造反”会发生吗?在全球大规模推动机器人发展的当下，接下来我们该如何打造更安全的机器人?

机器人为何伤人?

11月18日下午，深圳高交会官方回应了此事，18日晚间，北京进化者机器人科技有限公司在其官方微博发布了正式声明。声明称，11月17日13时30分左右，在1号展馆D32号展位(“小胖”的投影机供应商)旁通道内，参展人员试图将一台面罩打开的“小胖”机器人移动到展位内时，误将后退键按成前进键，并未及时按停，导致另一侧展台的玻璃被部分碰倒摔碎，玻璃划伤了另一侧展台内的一名观众，全过程持续约10余秒。

现在，人们分析判断一个事件通常除了官方信息还会看圈子以及其他渠道的信息。

速感科技CEO陈震在接受《中国电子报》记者采访时透露，他在机器人的圈子里也求证了此事，确实是因为人为操作失误所致。机器人伤人事件这两天持续发酵，也有媒体把事件夸大到了“机器人原力觉醒”。“从我的角度看，目前机器人技术发展远没有达到‘原力觉醒’这一程度，这次确实就是和很多类似事件中的机器误操作而导致人身伤害的偶然现象一样。”陈震说。

陈震进一步表示，从操作和机器人的设计原理上看，因为操作人员打开了机器人的面罩进行人工控制，而当机器人面罩处于打开状态时，将自动关闭机器人上的避障感应元件，从而切换为纯手动模式，在这一模式下，机器人诸如避障、感知的保护性功能会被关闭，因此导致了机器人在人为操作下的撞击玻璃，从而伤了人。

偶然事件带来什么影响?

这一偶然事件带来的第一个效应是机器人关注度陡然提升。路波科技创始人颜其峰给出了一张“人工智能产业成熟曲线”图，并表示每一次媒体对机器人风险的夸大，“比如说机器人造反了，灭绝人类了”等，虽然这些言论言过其实，但都会带动机器人市场热度的螺旋式上升。陈震也表示，这一事件从积极的方面讲，实际上制造了一次大众营销热点，让更多的圈外人知道了机器人，并开始关注消费级机器人市场。

到目前为止，机器人是否会“原力觉醒”?英特尔中国研究院院长宋继强对《中国电子报》记者表示，目前看不会，机器人芯片和软件都没有智能自我重构的功能，现在只有系统和程序设计失误引起的错误。

虽说“小胖”并非自主行动而造成伤害，但意外事件还是引发了更多负面担忧。不管是什么操作模式，毕竟它伤人了，就像去年德国大众汽车卡塞尔工厂的一名工人被突然启动的机器人意外致死一样，机器人因为意外杀人的案例也已经多次发生。

人们的担忧并非没有理由。就像任何事物的发展都有两面性一样，很多科技的诞生和发展也伴随着一定负面作用，如果我们不能够掌握负面效应，是否应该是放弃?或者换其他的方法、其他的科技来到达同样的目标?就像核能利用，切尔诺贝利核电站的教训，至今仍像达摩克利斯之剑一样，悬在核能开发的上空。

今年三月，《第三次工业革命》和《零边际成本社会》的作者杰里米·里夫金在赛迪集团时表示，未来几十年世界的发展会影响到未来人类的发展。记者采访时问他为何会有这样的定论?里夫金说：“因为过去这几十年，人类工业活动、经济活动造成了大气、生态、灾害等非常多的问题发生。而且就是这短短的几十年，发生如此多的问题。如果人类还按照这个模式发展下去，人类这个物种可能就面临生存或者说生物灭绝，这些年因为生态环境的变化，已经有很多生物物种消失了。”

本月15日，英国物理学家斯蒂芬·霍金在牛津大学演讲时再次表达了他对人工智能的担忧，甚至认为AI是“人类历史上最严重的错误”。他认为人工智能的潜力无限，完全有可能超越人类的智慧水平，摆脱人类的控制。霍金说：“成功制造出一台人工智能机器人将是人类历史上的里程碑。但不幸的是，它也可能会成为我们历史上最后一个里程碑，除非我们能学会如何去规避这种风险。”

人们对机器人的担忧更多来自于它有很多其他科技所不具备的功能和能力。

驭势科技CEO吴甘沙说：“机器人和原来的PC不一样，它有眼、有手、有脚，会偷偷在你家里不停地拍。机器人有手，可以控制家里的东西。虽然从功能上可以一个功能三个团队用三种不同的软硬件去实现，最后三个结果投票选两个一样的，但关键的问题是，一旦机器人失控怎么办?大家看到很多机器人身上有一个红色按钮，它是起到安全作用的，但是当你无法接近这个机器人，怎么去按这个按钮，怎么能够阻止失控的机器人?所以我们需要非常安全可靠的机器人设计方法学。”

怎么打造非常非常安全的机器人?

宋继强对《中国电子报》记者表示，目前在自主移动服务机器人领域对于安全的思考和讨论刚刚开始，还很不完善。就像汽车一样，机器人安全首先可以分为主动安全和被动安全两类。由于服务机器人的智能联网属性，又需要加上信息安全。

主动安全属于功能安全(functional safety)的范围，需要机器人配备工作环境复杂需要的多种传感器(不能只依赖一种)，在软件算法层面对多传感器输入进行实时融合处理，以获得最可靠(注意，未必一定正确)的结果，来保证安全的完成任务。目前的服务机器人厂商应该只在这部分做了初步工作。

被动安全是指在遇到功能定义之外的异常情况下，仍然可以保障机器人本体和环境与人的安全。这个必须是由功能控制之外的独立系统来检测和完成。被动安全系统需要具备高于功能控制系统的绝对优先级。它的输入来自多方面，可以是本地的传感处理系统，可以是人手工控制，也可以是信息安全系统。

这里就提到了信息安全。因为未来机器人可以上网，还可以更新应用和系统，那么它就像今天的电脑和手机一样会遭遇恶意软件和黑客的攻击。对于能移动和操控的机器人，必须配备信息安全系统来防范攻击，并且连同被动安全系统对抗恶意软件和黑客对机器人移动、操作系统的控制。

在这几个维度，服务机器人企业现在怎么看？又该怎么做?

小船信息科技(上海)有限公司总裁廖江君在接受《中国电子报》记者采访时表示，这个意外事件对所有的服务机器人企业是一个警示，在主动安全、被动安全、信息安全上都必须做到最高的级别，把安全放在第一位。比如在主动安全上，机器人的传感器在任何情况下都不能关闭，即便是手动模式下依然能够实现主动识别。比如在设计时更关注机器人的重量和速度的关系，对于比重大的机器人不能让它太快，以慢来实现更好的安全保障。比如机器人设计要有三重甚至更多重保护等。

常州智宝机器人科技有限公司总经理李常峰在接受采访时表示，事实上服务机器人的安全需要全行业、全产业高度重视，一旦出问题，会对整个行业都会造成巨大伤害，具体到每一个企业每一个产品，其安全需要从结构、软件、无线、电机、控制、传感器、整机等全方位考量，而且需要把安全放在第一的位置。

机器人的认证检测怎么做?

在采访中，所有被访人都谈及了机器人的认证和检测问题。

目前，中国已先后建立了国家机器人检测与评定中心、国家机器人标准化总体组和机器人检测认证联盟，在11月2日，国家发改委、国家质检总局、工信部、国家认监委向社会发布“中国机器人认证(CR)”标志，同时颁发了首批中国机器人产品认证证书，这标志着我国正式建立并开始实施机器人检测认证制度。今年9月工信部就《工业机器人行业规范条件(征求意见稿)》公开征集意见。

目前中国虽然第三方检测机构已经建立，但机器人标准、检测认证等体系、认证手段和技术支撑等都需要进一步完善。尤其是在服务机器人的检测上，目前的标准还比较宽泛。究竟如何检测才能够让服务机器人做到万无一失?

廖江君认为，服务机器人的检测不能仅需要从技术的角度，更需要有用户思维，需要以用户思维来判断。比如在一些功能的选择上，如果对用户有可能造成伤害、损害，就必须取消，不留任何损害的可能性。

宋继强表示，目前，服务机器人的安全标准化工作刚刚开始。工业机器人认证标准对服务机器人是不够的，因为工作环境差别很大，需要更多检测移动性、交互能力，对不同环境的适应性等。目前国际上也没有成熟的方法。英特尔也在联合一些专家设计实现一套对移动机器人的安全监测机制，希望通过虚拟环境与真实环境结合的方式进行测试，改变目前机器人领域有管理的想法、无检测的办法、无实用的安全方案的现状。

陈震认为，要加快制定消费级机器人的行业标准、安全标准，从多个角度对机器人在使用环境中进行测试，才能让很多安全的隐患在研发过程中就被考虑和避免掉。

李常峰说：“服务机器人产业刚起步，目前标准也还没有出台，很多做法都是参照其他行业，需要有更详细的标准来约束和推动这个领域的发展。”

写在最后：

今天，我们看到机器人的问题还比较可控，还处于发展初期。但是AI的发展充满了变量，如果有一天，机器人芯片和软件都有了智能自我重构的功能，如果有一天，通用人工智能发展起来超越了人脑，如果有一天，机器人有了“原力觉醒”，那时我们怎么办?我们是否已经想好了应对的方案?