硅谷钢铁侠埃隆·马斯克，继与扎克伯格就人工智能危险性话题的隔空争论，认为AI之害可能胜于朝鲜后，呼吁政府对人工智能进行规范管制。本周一，他又带来26个国家、116位人工智能和机器人领域专家，向联合国呼吁，严格限制自动化杀人武器，禁止它在国际间使用。

在马斯克给联合国的公开信中，他将提到的“杀人机器人”，例如无人机、坦克、自动机械抢等，称为枪械、核武器之后的第三次武器革命。一旦发展，将史无前例地扩大战争规模、加快战争速度。不论是这些武器沦为恐怖分子的工具、威胁大量平民，还是被黑客篡改、被用于其他用途，都是无法承担的后果。

据日媒报道，联合国将在11月中旬，召开正式专家会议，讨论代替士兵的杀人机器人无期的管制问题。

这些军用武器到底有多大的危害，国际社会要对它做出怎样的规范，各国会提出如何的应对，都将是一场旷日持久、充满了相互扯皮的斗争，远不是几个科技界的企业家能够左右的。不过，马斯克在公开信和此前的讨论中，经常出现的人工智能、机器人安全问题，即使是在如今的弱人工智能、服务型机器人身上，也是一个现实存在的问题。

《连线》最近在新加坡做了几个实验，用黑客的方式侵入了已经上市的民用机器人：阿尔法二代（Alpha 2）、NAO 机器人，以及优傲机器人的工业机器手臂。事实证明，机器人不仅能够被黑客入侵，更能在入侵后，改变关键的安全设置，将这些本来用以帮助人类生活的机器人变成他们的监控器、监听仪。

用来实验的三种机器人，都声称自己的安全系数良好，但是，实验过程中，它们不是能被植入新的软件，执行两种指令，就是它的开发功能，让黑客入侵的成本极低。一些机器人的安全系数，完全是三四年前的。

今年三月，新加坡的这个研究团队，就曾经给出过一份深入的报告，他们手机的市面上的50多个机器人和机器人软件，包括韩国的Robotis、美国的Rethink Robotics等，都有着很大的安全隐患。不过，几个月过去了，即使是那写被拍成视频的机器人公司，也只是发文告诫用户，保护好自己的密码和网络安全环境。

此前的意大利米兰的研究团队，也对工业机器人的安全问题，进行过研究，他们也发现，只要植入了代码，就能完全改变机器手臂的用途。

上图只是一张网友恶搞的推文，不过，即使马斯克并不是未来的使者，他说提出的警告也不只是危言耸听。