Any system simple enough to be understandable will not be complicated enough to behave intelligently, while any system complicated enough to behave intelligently will be too complicated to understand.

任何一个简单到可以理解的系统都不会复杂到可以智能化行事，而任何一个复杂到足以智能化行事的系统都会太过于复杂而无法理解。

乔治·戴森

George Dyson

乔治·戴森是一名科技史学家，著有《海豹皮船》（Baidarka: the Kayak）、《计算机生命天演论》（Darwin Among the Machines）、《猎户座计划》（Project Orion）和《图灵的大教堂》（Turing's Cathedral）。

注：乔治·戴森的著作《图灵的大教堂》中文简体字版已由湛庐文化策划，浙江人民出版社出版。——编者注

布罗克曼谈乔治·戴森

2005年，在谷歌一些工程师的邀请下，科技史学家乔治·戴森参观了谷歌。这一天是约翰·冯·诺伊曼提出数字计算机构想的六十周年纪念日。访问结束后，乔治写了一篇题为《图灵的大教堂》的文章，第一次提醒公众记住谷歌创始人为这个世界所做的贡献。“我们扫描那些书，不是为了让人们阅读，”一位主人在他的谈话后解释说，“我们扫描这些书是为了让人工智能阅读。”

乔治对数字时代有不同看法。他对阿留申皮艇的发展过程、数字计算和电信的进化、数字宇宙的起源以及一条未实现的太空之路都感兴趣。他的职业生涯就像他的书那样无法归类——他未完成高中学业，但却被授予维多利亚大学荣誉博士。

他喜欢说，曾经被认为与微分分析机一样灭绝了的模拟计算已经再度回归。他认为，虽然我们可以使用数字组件，但在某种程度上，由系统执行的模拟计算远远超过其所构建的数字代码的复杂性。他认为，拥有从数字基础上发展而来的模拟控制系统的真正的人工智能，就像数字计算机在第二次世界大战后从模拟组件中发展起来一样，可能并不像我们想象的那样遥远。

在这篇文章中，乔治对模拟计算和数字计算之间的区别进行思考，发现模拟计算依然在盛行。人类企图通过给机器编程来控制万物，大自然对此可能回应以未被编程的机器，而没有人能控制它们。

以电子数字计算机诞生，以及它们生成的代码遍布全球的时间前后划分，计算的历史可以分为新旧两个时期。旧时期的先知有托马斯·霍布斯和莱布尼茨，他们带来的是计算的逻辑基础。新时期的先知则包括艾伦·图灵、约翰·冯·诺伊曼、克劳德·香农和诺伯特·维纳，他们带来了机器。

艾伦·图灵对如何让机器变得智能很感兴趣。冯·诺伊曼的兴趣是如何让机器能自我复制。克劳德·香农想了解如何排除噪声的干扰，让机器可靠地通信。而诺伯特·维纳想知道的是机器需要多长时间能掌握控制权。

1949年维纳发出警告，提出控制系统将脱离人类控制，当时正值第一代存储程序电子数字计算机问世。因为这些系统需要人类程序员的直接监督，所以世人并未把他的这番顾虑放在心上。只要程序员们还控制着这些系统，又能有什么问题呢？自此，关于自主控制的风险的争论便一直与对数字编码机器的威力和局限性的争论有关。虽然这些机器拥有惊人的能力，但几乎没有真正的自治。这是一个危险的假设。如果数字计算被其他东西取代了，会怎样呢？

电子工业在过去的几百年中经历了两个根本转变：从模拟到数字，从真空管到固态器件。这些转变一起发生，但并不意味着它们有着密不可分的联系。正如使用真空管可以实现数字计算一样，模拟计算也可以在固态器件中实现。即使真空管在商业上已经消失，但模拟计算仍旧十分活跃。

模拟计算和数字计算之间没有精确的区别。一般而言，数字计算涉及整数、二进制序列、确定性逻辑和被理想化为离散增量的时间。而模拟计算涉及实数、非确定性逻辑和连续函数，以及存在于现实世界中的连续时间。

想象一下，你需要找到一条路的中间点。你可以使用任何可用的增量来测量它的宽度，然后用数字方法计算出距离中间点最近的增量。或者，你可以使用一根带子作为模拟计算机，量出道路的宽度然后对折直接找到中间点。这种方法不受增量的局限。

许多系统在模拟和数字之间转换运行。一棵树将各种各样的输入整合成连续函数，但是如果你砍倒那棵树，你就会发现它一直在用数字方法计年。

在模拟计算中，复杂性存在于网络拓扑结构而不是代码里。信息被处理为诸如电压和相对脉冲频率之类的值的连续函数，而不是对离散的位串的逻辑运算。因为不能容忍错误或模糊，数字计算需要随时纠正错误。而模拟计算可以容忍错误，允许错误的出现。

自然界使用数字编码来存储、复制和重组核苷酸序列，但依赖模拟计算运行神经系统，获得智能和控制。每个活细胞中的遗传系统都是一个具有存储程序的计算机。但大脑不是。

数字计算机在两种比特之间进行转换：表示空间差异的比特和表示时间差异的比特。这两种形式的信息、序列和结构之间的转换是由计算机编程控制的，只要计算机需要人类程序员，我们就可以掌握控制权。

模拟计算机也在两种信息形式之间进行转换：空间结构和时间行为。没有代码，没有编程。我们还无法完全理解自然界是如何进化出模拟计算机的，这种模拟计算机就是神经系统，它们体现了所有我们从世界吸收的信息。它们学习。它们学习的内容之一就是控制。它们学习控制自己的行为，学习尽可能地控制自己的环境。

甚至可以追溯到计算机科学诞生之前，计算机科学就已经开始实现神经网络了，但在大多数情况下，这些都是通过数字计算机模拟的神经网络，而不是自然界中自然进化的神经网络。现在这一切开始改变：自下而上的，是无人战斗机、自动驾驶汽车和手机这三驾马车推动了神经形态微处理器的发展，这种微处理器将真正的神经网络而不是模拟的神经网络直接实施在硅片或其他基片上。自上而下的，则是我们最大、最成功的企业在渗透和控制世界时越来越多地转向模拟计算。

当我们争论数字计算机的智能时，模拟计算已悄然超越了数字计算，就像在第二次世界大战之后，像真空管这样的模拟组件被用来建造数字计算机一样。可以运行有限代码的、单独确定的有限状态处理器，正在创造大规模具有不确定性、非有限状态的多细胞生物，它们在现实世界中恣意横行着。所产生的模拟、数字混合系统共同地处理比特流，就像在真空管中处理电子流一样，而不是像产生流动的离散状态装置那样一个个地处理比特。比特是新的电子。模拟再次回归，其本质是控制。

从物流到车流再到意识流，所有这些系统都按照统计运行，就像脉冲频率编码信息在神经元或大脑中处理一样。智能的出现引起了智人的注意，但我们应该担心的是控制的出现。

◆◆◆

想象一下，在1958年，你正试图保卫美国大陆免受空袭。为了区分敌机，你需要的除了计算机网络和预警雷达站点之外，还需要一个完备的、实时更新的商业空中交通地图。美国建立了一个这样的系统，命名为SAGE（半自动地面防空系统）。SAGE又催生了Sabre，这是第一个实时预订航空旅行的综合预订系统。Sabre及其衍生品很快就不仅能提供可预订座位图，还能根据分散的情报，控制客机将飞往的目的地和起飞时间。

但是在某个地方有没有一个控制室，有人在操控呢？也许没有。比如说，你建立一个公路交通实时显示系统，当汽车进入这个区域时，你就可以得知汽车当时的速度和行驶地点。这是一个完全分散的控制系统。除了系统本身之外，没有任何系统控制模型。

想象一下，现在是21世纪的第一个10年，你想实时追踪人际关系的复杂性。欲了解一个小学院的社交生活，你可以构建一个中央数据库，时刻更新，但在更大范围内，这个数据库的维护会非常困难。最好是发出一个简单的半自治代码的免费拷贝，本地托管，让社交网络自己更新。这个代码由数字计算机执行，但是由系统整体执行的模拟计算，其复杂性远远超过底层代码。由此得到的社交图的脉冲频率编码模型便成为社交图本身。它自校园蔓延开来，直至蔓延到整个世界。

如果你想制造一台机器，让它明白人类所了解的一切到底是什么意思，该怎么办？有了摩尔定律，很快世界上所有的信息都将数字化。你可以扫描印刷过的每一本书，收集人们写过的每一封电子邮件，每天整理最近49年的视频，同时实时追踪人们的位置以及他们做的事情。但是你如何理解其中的含义呢？

即使在数字时代，你也无法用严格的逻辑概念来定义这一切，因为对于人类而言，含义并不是合乎逻辑的。当你收集了所有可能的答案后，你最多能做的就是提出明确的问题，然后编译一个脉冲频率加权图，来说明所有事物是如何关联的。还没等你意识到，你的系统就已经不仅能观察和绘制事物的意义图，甚至能开始构建意义了。一段时间后，它便会控制意义，就像交通图开始控制交通流量一样，即使似乎没有人在控制这一切。

◆◆◆

关于人工智能，我们有三条定律。第一定律是阿什比定律，这一定律以控制论专家、《大脑设计》（Design for a Brain）一书的作者W.罗斯·阿什比（W. Ross Ashby）的名字命名。该定律认为任何有效的控制系统必须与它控制的系统一样复杂。

第二定律由冯·诺伊曼提出。该定律指出，一个复杂系统的定义特征一定包含对其行为的最简单的描述。生物体最简单的完整模型是生物体本身。试图减少系统行为，达到任何形式化描述的程度，只会使得事情变得更复杂，而不是变得更简单。

第三定律指出，任何一个简单到可以理解的系统都不会复杂到可以智能化行事，而任何一个复杂到足以智能化行事的系统都会太过于复杂而无法理解。

第三定律给那些相信在理解智能之前，我们不用担心机器会产生超人类智能的人带来安慰。但第三定律存在漏洞。我们完全有可能在不理解时构建某个东西。构建一个能运作的大脑，你不需要完全理解它是如何运作的。无论程序员及其伦理顾问如何监控计算程序，他们都永远无法解决这个漏洞。可以证明的是，“好的”人工智能是个神话。我们与真正的人工智能之间的关系将永远是一个信仰问题，而不是证据问题。

我们过于担心机器智能，却不太担心机器的自我复制、通信和控制。计算的下一个革命将以模拟系统兴起、数字程序对模拟系统不再有控制权为标志。对那些相信他们能制造机器来控制一切的人，大自然对此的反应将是允许他们建造一台机器，来控制他们。