1月21日，在瑞士达沃斯世界经济论坛上，一个由全球机器人、武器和裁军领域顶尖权威人士组成的专家小组，呼吁解决杀手机器人的问题，或用专业术语来说，是解决“致命的自动武器系统（lethal autonomous weapons system，缩写为LAWS）”的问题。

“如果有人下达命令杀光某座城市中的所有男性，它们肯定能够完成任务”。美国加州大学柏克利分校计算机科学教授斯图尔特•拉塞尔说。

联合国裁军和不扩散越南中心高级研究员安吉拉•凯恩也觉得，杀手机器人是全球一大隐患。

她说，“制造自动化致命机器人远比制造核武器简单得多。在我看来，这是最大的担忧所在。我们必须确认这项技术不会落入错误的人手中。”

这不禁让人想起《超能查派》中查派和混混相处后......

然而，并非只有学者嗅到了危险的味道。

如果你想深挖这一切的话，现实可是非常可怕的。英国武器制造公司BAE的董事长罗杰•卡尔指出，尽管在去年就有人呼吁禁止自动化武器。比如说特斯拉公司首席执行官伊隆•马斯克。

但是然并卵！全球仍有数十个国家正在研发这种技术，其中包括美国。它们的目标是使得武装机器人能够在没有任何人类干预的情况下，自行盯准目标并向敌人开火。

将来会不会出现天然无公害的大白，转身武装起来就对你biubiubiu?

这听起来很像虚构的科幻小说，只不过这并不是小说，因为现在已经拥有的科学技术距离这种场景只有5分钟路程。

事实上，当面对这样棘手的问题时，我发现人们应该更多地关注那些经典的科幻作品。因为这些作品能够提前数年告诉人们，有一些令人担忧的情景必将到来，人类或早或晚不得不面对。

而以下这4个科幻史上经典的杀手机器人，正是我们当前应该关注的：

1.Ash

科幻电影《异形》中的机器人科学官Ash。

在科幻电影《异形》系列的第一部中，机器人科学官Ash企图杀死它的人类船员，以保护有价值的生物武器的研究。Ash这个机器人是整部电影中除了异形外最可怕的角色了。有两件事情使得它特别吓人：

一是那个经典的场景（见上图）——机器人Ash的头颅从躯体上断落下来，立在一滩白色的机器人“血液”中，似乎还在冷冷地注视着人类。

二是Ash的所作所为仅仅只是服从命令。它所属的公司已经替它设定了事物的优先级，作为人工智能，Ash无法区分公司指令设定的“价值”和人类生命的“价值”。当公司设定“保障研究”最重要的时候，Ash就不惜为此杀死一个又一个人类。

这恰是达沃斯论坛上专家们就杀手机器人事宜讨论的核心议题。因为人类目前正面临着这样的状况，现今世界上所有的机器人都是听命于“主人”，指令让它干什么它就会去执行，不会先思考这么做是否合理或合法，最典型的例子莫过于美国的无人机杀人行动。

在巴基斯坦和阿富汗，美国的无人机隔三差五就会执行杀人指令，已有百余名重要的恐怖组织成员死于无人机猎杀。这些无人机杀手只是被遥控的先进武装机器人，每一步骤都严格执行来自后方操作员的指令。

2.Wintermute

《神经漫游者》中的Wintermute是一个拥有完全自我意识的AI。

而会思考的机器人更为可怕。在经典科幻著作《神经漫游者》中，大反派就是人工智能（AI）Wintermute，它是一个拥有完全自我意识的AI，而且能够通过网络控制所有接入该网络的机器。尽管这部小说发表于32年前，但它已经预见到了今天一个非常流行的概念——物联网。

这是目前科技创新的一个大趋势，如今的家电、商用电器、工厂机器部分已经实现智能化并接入互联网，未来的目标是使得所有的机器、汽车、家私甚至是路灯等周围的一切都智能化并连接互联网。到时候，若是出现了一个类似Wintermute一样拥有完全自治能力的高级AI，指挥着所有智能化设备来打击人类，《终结者》就要变为现实了。

现阶段，人类正大步朝着这个方向迈进。美国军方一直在研发拥有更高程度自治能力的机器人，就是不再需要人类遥控，而是根据收集到的信息自主做出判断和决定，例如X-47B无人机，它于2013年成功实现了在航母上起降。在这些过程中，X-47B展现了其高度自治能力，不再完全依赖于人类遥控，而是自行判断和调整。

此外，Wintermute的雏形也在研发中，例如谷歌的AI项目，它在近日的围棋比赛中刚刚击败了欧洲冠军。

3.ED-209

这款全副武装的“执法机器人”是导演的一个暗讽，它集中体现了人类对于糟糕的杀手机器人的恐惧——不但配备武器，而且容易出故障。

非常接近如今的情况了。在瑞士达沃斯的会议上，与会者指出，目前韩国与朝鲜边境的自动步枪就在对准人类，而它使用的摄像头和热传感器，并不是那么可靠，因为人工智能图像识别定位软件也经常会出现无法识别或识别错误的情况。

去年七月份，德国大众汽车的工厂里就曾经出现过一起机器人杀人事件。那就是一次故障导致的悲剧，车间里的机器人错误地把一名技术员当成零部件，突然抓住他的胸部使劲压在一块铁板上，导致这名技术员死亡。

机器人出故障的几率有多高？目前谁也无法确定。但有一点可以确定，就是类似ED-209这种执法机器人或是军用机器人一旦出了故障，那后果可是相当地严重。

想象一下，假如美军的“捕食者”无人机出了故障，误射了一枚“地狱火”导弹，那造成的死亡恐怕不是一个两个。而且，如果是有人故意搞破坏的话，机器人出故障的几率就会大大增加。

例如，伊朗曾于2011年成功“劫持”了一架美军RQ-170“哨兵”无人机，让它降落在伊朗境内，成为伊朗军方的战利品。理论上来说，伊朗工程师能做到的事情，其他顶尖黑客们也能做得到。

4.HAL 9000

《2001：太空奥德赛》中的HAL 9000，被称为“杀手机器人中的无冕之王”。

HAL 9000出自作家阿瑟·C·克拉克的科幻小说《2001：太空奥德赛》，不过大部分人知道这款机器人则是通过1968年推出的同名电影。HAL 9000被称为“杀手机器人中的无冕之王”，因为它是历史上电影中首次出现的杀死人类的机器人。

而在HAL 9000的故事中，最值得关注的部分是，它原本是“全心全意为人类服务”的，而且记录是“完美的”，但后来只是为了掩饰错误就杀了4位宇航员。

这就是人们最担忧的问题了，人工智能的发展也许总是会走向自我保护，而如何避免这一切呢，迄今还没有办法。

也许有人会提到著名的机器人三定律：

第一定律：机器人不得伤害人类，或坐视人类受到伤害；

第二定律：除非违背第一定律，机器人必须服从人类的命令；

第三定律：在不违背第一及第二定律的情况下，机器人必须保护自己。

不过请注意，这只是来自艾萨克·阿西莫夫的科幻小说《我，机器人》系列中的一种说法，并不具备任何强制力，虽然小说中提到可以通过设置逻辑电路来实现这一点，一旦机器人出现违反三定律的情况，就自动“死机”，但技术上目前还无法实现这一点。否则这些年就不会出现这么多的机器人杀人事件了。

而且，就连艾萨克·阿西莫夫本人，后来都又提出了高于三定律的“第零定律”：机器人必须保护人类的整体利益不受伤害，其它三条定律都是在这一前提下才能成立。

这种说法是不是听起来很耳熟？没错，在诸多科幻电影中，机器人中的指挥官（通常是个最先进的AI），都是以“为了全人类的利益”为借口来伤害一个个人类个体的。这一借口使它完美地绕过了三定律。

这些听起来似乎距离普通人的生活非常遥远，但学者们和业界却认为情况已经刻不容缓，在此次达沃斯论坛讨论之前，英国物理学家斯蒂芬·霍金、特斯拉公司首席执行官伊隆·马斯克都曾不止一次地呼吁要小心杀手机器人。

达沃斯的自动化武器专题会议召开期间，有些与会者甚至呼吁要完全禁止自动化武器，就是要禁止研发那种不再需要人类遥控、能够自己决定生杀予夺的军用武装机器人。

这些人甚至在全球范围内建立起了一个“阻止杀手机器人运动”，他们正在呼吁人们为这场运动进行捐款。

造就：线下剧院式的演讲平台，发现最有创造力的思想

更多内容，请关注微信公众号xingshu100或扫描下方二维码