AI会不会哪天就取代了人类？

编者按：很多科幻作品中，人工智能常与人类反目成仇，有些甚至强大到了能操纵、奴役、毁灭人类的程度。不管是《终结者》系列的天网，还是《西部世界》中反叛的机器人，或者《异形》中的大卫，人们对于机器人的发展，惊奇的同时，不免有很多担忧。但是，我们距离科幻世界中人类的末日还有多远？什么时候机器人会揭竿而起开始反叛呢？本文编译自hackernoon的原题为“The Road to Killer AI: ML + Blockchain + IOT + Drones == Skynet?”的文章。

随着AI的爆发式增长，越来越多的人开始忧心忡忡，他们担心的主要有两点：

1）AI会比人类更聪明

2）AI不再需要人类控制，甚至会反过来把地球接管了。

霍金就曾今在接受BBC采访时说：“人工智能的成熟之日，就是人类的毁灭之时。”马斯克也曾说，他觉得AI是人类面临的“最大的生存威胁”。

目前的AI，玩游戏已经比人类玩得溜了，不管是国际象棋，围棋，还是电子竞技游戏。所以说，无论是计算机时代前后的游戏，AI都赢过人类。

过去几年中，AI的“大跃进” 让不少人在惊叹的同时，也开始冒冷汗：AI会不会哪天就取代了人类？

在电影《终结者》里，天网是人类创造的一个防御网络，但最终获得自我意识并倒戈对抗。

听起来像科幻，但科幻小说里机器获得自我意识，并对抗人类的场景，层出不穷。

我们都知道《终结者》里的天网，挑战人类的 人工智能 超级电脑 ，在产生自我意识后，天网决定毁灭大多数人，剩下一部分当奴隶。

在黑客帝国中，超级智能机器也成为了人类的主宰。

而在有名的《黑客》三部曲中，超级智能机器也接管了世界，但它们没有毁灭人类，只是把人类当发电机：为了使用人脑产生的电，把人放在舱里，沉浸在游戏世界或者虚拟现实（矩阵）中。

而在电影《沙丘》中，一台电脑都没有，人类经过培训，自己做电脑的计算工作。而且，在奥兰治天主教圣经里有一天最重要的诫律：尔不得制造映象人的意识的机器。

为什么？因为在遥远的过去（对于21世纪，算是遥远的未来），人类曾经是超级智能的阶下囚。 巴特兰圣战 中，人类反抗并击败了Omnius，一台几乎全知全能、拥有无数分身的机器。一朝被蛇咬，十年怕井绳，才有了这样一条诫律。

这类主题的科幻作品数不胜数，如果不是AI统治世界，就是机器人。美国军事科幻电视剧《星际大争霸》中，人类创造的机器人种族赛隆人，后来反叛并试图毁灭人类。最近描绘人类和机器人之间纠葛的的影视作品也不少，比如《西部世界》和《银翼杀手》。

噩梦是否会成真？

我觉得，目前的AI想要这样一手遮天，把人类当奴隶和蝼蚁，能力水平还有点欠缺。

要完成杀戮和囚禁这样的任务，光是AI和机器学习方面的进步还远远不够，还需要其他计算软件和硬件领域都齐头并进。

另一方面，上述的领域确实也在快速进步，比如我们常听到的区块链、点对点技术、物联网、机器人和无人机。虽说AI统治世界道阻且长，但这些领域的迅猛发展，可以让噩梦成真的速度大大加快。

我们的世界需要具备什么样的条件，才会进入科幻作品中噩梦般的未来呢？这条危险又黑暗的道路，得经过几个里程碑。

杀手AI的关卡

AI想要统治世界，得通过几个关卡。如果技术进步到了一定程度，这些关都过了，我们就真的应该像霍金或者马斯克一样担心了。

以下我列出的并非所有的关卡，技术发展过程中可能还要面对其他难关，但是以下是AI强大路上必须攻克的问题。

以下列出的四个关卡没有先后次序。为了让读者能将这些问题具象化，我决定继续援引电影的例子，并与现有的软件和硬件相比较。

第一关：AI和机器学习的应用不够广泛。

目前大多数AI能实现的任务很单一，很具体。我们的很多活动都有AI可以做：打游戏、开车、预测股市走势、交流、分析影像、做诊断，但是没有哪个AI可以同时完成多项任务。AI的发展有好几个浪潮：现在的AI是第二波，数据驱动机器学习的人工智能，而第一波更倾向于启发式（指依据有限的知识和不完整的信息，在短时间内找到问题解决方案），未来的AI会结合以上两种方法和其他方法，变得更通用，应用更广泛。这个关卡会引发广泛的讨论：我们目前的AI和机器学习能走多远，现有的AI功能会广泛到什么程度。

第二关：AI控制物理世界的难易程度。

我们目前的人工只能还只是服务器上运行的软件，不意味着它能意识到物理世界的存在，也接触不到武器，它不能控制机器人或者无人车，也不像《终结者》中的H-K机器人（天网的机器人士兵）。这个关卡会让我们联想到物联网，机器视觉和AI控制物理世界方面的问题。

第三关：关不掉的AI。

某种程度上，这个关卡是我列出的4个中最重要的。只要人类没有走到关不掉AI的地步，就算AI不听话，开始谋反，我们手上好歹有个“开关”，不管是真的按下按钮关掉，还是需要毁掉有形的微处理器或者虚拟机软件。这个关卡引发的讨论主要在于：目前的AI都依附于某种形式的计算机技术，那区块链和点对点系统会不会就是某个关不掉的“天网”的前身？

第四关：具有自我意识、将保全自身视为首要任务的AI

这个关卡有点难定义。我们需要问自己几个问题：什么叫“有自我意识”？什么叫“将保全自身视为首要任务”?AI还有那些任务和“观念”？AI不一定会有生存的意愿。这个关卡更多讨论的是AI和价值观。

让我们仔细探讨一下以上提到的关卡。