不了解“智能”的运作原理，也完全有可能构建出“智能”

美国加拿大技术历史学家乔治·戴森认为，不了解“智能”的运作原理，也完全有可能构建出“智能”，这也是模拟计算的魅力。当我们争论数字计算机的智能时，模拟计算正在悄然取代数字计算。我们与真正的AI的关系是信仰的问题，而不是证明。

以数字电子计算机诞生为界，计算机的历史可以分为“旧约”时代和“新约”时代。

提供基本逻辑的“旧约”时代的先知包括Thomas Hobbes和Gottfried Wilhelm Leibniz。而“新约”的先知包括阿兰·图灵，约翰·冯·诺伊曼，克劳德·香农和诺伯特·维纳等人。

艾伦·图灵想弄清要让机器变得智能化需要做些什么；

冯·诺依曼想知道机器自我复制需要什么；

克劳德·香农想知道机器要在干扰下进行可靠地通信都需要什么条件；

诺伯特·维纳想知道机器在多久后可以夺取自己的控制权。

维纳关于机器可能从人类手中夺取控制权的首次警告出现在1949年，当时正值第一代存储程序电子数字计算机的诞生。这些系统需要人类程序员的直接监督才能运行，这也减缓了他的担忧。只要程序员能够控制机器，还会有什么问题？

自此以后，关于自动控制的风险的争论仍然围绕着数字编码机器的控制权和局限性等话题。尽管机器的能力惊人，但几乎没有出现真正的自主的迹象。这是一个危险的假设。如果数字计算机被其他东西取代怎么办？

在过去的一个世纪里，电子产品经历了两次根本性转变：

一个是从模拟到数字化的转变；

一个是从真空管到固态的转变。

这两波转变几乎是同时发生的，但并不意味着它们彼此密不可分。就像使用真空管零件也能实现数字计算一样，而模拟计算可以在固态下实现。即使现在真空管已经彻底绝迹于商业市场，但模拟计算机仍然存在，并且处境很不错。

模拟计算和数字计算之间没有精确的区别。一般而言，数字计算处理整数、二进制序列，确定性逻辑和离散增量的时间，而模拟计算处理实数，非确定性逻辑和连续函数，其中就包括时间，因为时间是连续体存在于世界上的。

想象一下，你要找出一条路的中间位置。你可以使用所有可用的增量，先测出宽度，然后转换成数字，计算从中间到最接近的增量。

而使用模拟计算机，就可以使用一段字符串，将道路的宽度映射到字符串的长度。这样一来，只要找到字符串的中间位置，也就找到了路的中间位置。

在模拟计算中，复杂性存在于网络拓扑而非代码中。信息被处理为值的连续函数（例如电压和相对脉冲频率），而不是针对离散的比特串的逻辑运算。

许多系统在模拟和数字方式下交替运行。数字计算不容忍错误或模糊，整个过程中每一步都依赖纠错。

反观模拟计算，则可以容忍一些错误，甚至完全有可能在不理解某件事物的情况下将其构建出来。

不理解“智能”的运作原理，也完全有可能构建出“智能”

大自然使用数字编码来存储、复制和重组核苷酸序列，但智能和控制则依赖于神经系统上运行的模拟计算。每个活细胞中的遗传系统是存储好根据程序执行的计算机。

但大脑不是。

数字计算机执行两种类型的比特之间的变换：表示空间差异的比特和表示时间差异的比特。

这两种形式的信息，以及序列和结构之间的转换，都受到计算机编程的控制，而且只要计算机需要人类程序员，我们一直享有控制权。

模拟计算机也是调解两种信息形式之间的转换：空间结构和时间行为，只不过没有代码，也不需要编程。

我们并不完全理解自然是如何进化出被称为“神经系统”的模拟计算工具，它们可以从世界吸收各种信息。

神经系统会学习，而它们学到的一件事就是控制。它们学会控制自己的行为，进而学会尽可能地控制自己的环境。

计算机科学在实现神经网络方面有着悠久的历史——甚至可以追溯到计算机科学出现之前，但在很大程度上，这些都是数字计算机对神经网络的模拟，而不是通过自然本身在非受限环境下进化出来的神经网络。

模拟系统将掀起下一场计算革命，数字编程不再能够控制模拟系统

现在，这种情况开始发生改变：

自下而上来看，随着无人机战争、自动驾驶和智能手机的三重驱动，推动了神经形态微处理器的发展，这些处理器直接在硅(和其他潜在基底)上实现了实际的神经网络，而不是模拟神经网络。自上而下来看，最大、最成功的企业，越来越多地转向模拟计算。

当我们争论数字计算机的智能时，模拟计算正在悄然取代数字计算，就像真空管等模拟组件在二战后被重新用于制造数字计算机一样。运行有限代码的独立确定性有限状态处理器，正在形成在现实世界中运行的大规模、不确定的、非有限状态的后生有机体。由此产生的混合模拟/数字系统共同处理比特流，就像电子流在真空管中被处理一样，而不是单独处理，因为比特由产生流的离散状态装置处理。比特是新的电子。

模拟又回来了，它的本质就是控制。

这些系统控制着从商品流动到交通流动再到思想流动的一切，它们在数字上运行，就像脉冲频率编码信息在神经元或大脑中被处理一样。智能的出现引起了智人的注意，但我们应该担心的是控制的出现。

想象一下1958年，你正试图保卫美国大陆免受空中攻击。为了区分敌机，除了计算机网络和预警雷达站点外，你还需要一幅实时更新的所有商业空中交通的地图。美国建立了这样一个系统，并命名为SAGE(半自动地面环境)。SAGE反过来催生了Sabre，这是第一个用于实时预订航空旅行的综合预订系统。Sabre及其后代很快就不仅仅是一张座位图，而且是一个系统，开始通过分散的情报控制飞机的飞行地点和时间。

但是不是在某个地方有一个控制室，有人在控制？也许不是。比如说，你构建了一个实时绘制公路交通地图的系统，只需让汽车访问地图，以换取其当时的速度和位置的报告。结果是一个完全分散的控制系统。除了系统本身，没有任何系统的控制模型。

想象一下，这是2010年，你想要实时追踪人际关系的复杂性。对于小型大学的社交生活，你可以建立一个中央数据库并使其保持最新，但如果扩展到更大的范围，它的维护将变得难以承受。最好是分发一个简单的半自治代码的免费副本，由本地托管，并让社交网络自行更新。这些代码由数字计算机执行，但是整个系统执行的模拟计算远远超过了底层代码的复杂性。由此产生的社交图谱的脉冲频率编码模型成为社交图谱(social graph)本身。它将在校园里广泛传播，然后传播到世界各地。

如果你想制造一台机器来捕捉人类物种所知道的一切，这意味着什么？

有了摩尔定律的支持，将世界上所有的信息数字化并不需要太长时间。

你扫描每一本书，收集每一封电子邮件，每24小时收集49年的视频，同时实时跟踪人们在哪里，他们在做什么。但是你怎么理解它的意思呢?

即使在所有数字化的时代，这也不能用任何严格的逻辑意义来界定，因为在人类中，意义并不是从根本上合乎逻辑的。一旦你收集了所有可能的答案，你所能做的最好的就是邀请定义明确的问题，并编制一份关于所有事物如何联系的脉冲频率加权图。

在你知道它之前，你的系统不仅会观察和映射事物的意义，它还会开始构建意义。随着时间的推移，它将控制意义，就像交通地图开始控制交通流量，即使看上去没有人是在控制。

我们与真正的AI的关系永远是信仰的问题，而不是证明

人工智能有三条定律。

第一定律被称为阿什比定律(Ashby’s law)，它指出，任何有效的控制系统都必须与它所控制的系统一样复杂。

由冯•诺伊曼阐述的第二定律指出，复杂系统的定义特征是，它由自己最简单的行为描述构成：生物体最简单的完整模型就是生物体本身。试图将系统的行为简化为任何形式的描述都会使事情变得更复杂，而不是更简单。

第三定律指出，任何简单到可以理解的系统都不会复杂到可以智能地运行，而任何复杂到可以智能运行的系统都会复杂到无法理解。

第三定律给那些相信“在我们理解智能之前，我们不必担心机器之间会产生超人的智能”的人提供了安慰。

但是，第三条法律有一个漏洞——完全有可能在不理解智能的情况下将它构建出来。

你不需要完全了解大脑是如何工作的，就能构建出一个正常运转的大脑。这个漏洞是程序员及其道德顾问对算法的任何监管都无法弥补的。

绝对“好”的AI是一个神话。 

我们与真正的AI的关系永远是信仰的问题，而不是证明。我们太过担心机器智能，而对自我复制、沟通和控制却知之甚少。

计算机的下一场革命将标志着模拟系统的兴起，数字编程不再能够控制模拟系统。

对于那些相信自己能造出机器控制一切的人，大自然的回应将是让他们造出一台能控制这些人自己的机器。