第3章 《简化的世界》：智能的错误
人工智能的故事来自某个人的想法。他是一个拥有无穷人类智慧的人：“人工智能之父”艾伦·图灵。
1950年，图灵发表了一篇引人深思的论文《计算机器与智能》（Computing Machinery and intelligence），预言了创造出智能机器的可能性。虽然以今天的标准看，这篇论文的观点并不新奇，但在一个计算机还是新生事物的年代，这篇论文的内容是相当大胆的。缓慢而笨重的硬件组合在一起，加快了科学计算的速度，比如破解密码。在被输入物理方程和初始条件后计算机可以算出核爆炸的半径。IBM[1]很快捕捉到计算机取代人类进行商务计算的潜力，比如更新电子数据表。但是，把计算机的运算过程看成“思考”需要想象力。
图灵的提议基于一项名为“模仿游戏”的大众娱乐活动。在游戏中，一男一女被藏在看不见的地方。第三个人，即提问者，会分别把问题传达给二人中的一个，并以书面形式收回答案。然后，提问者通过阅读答案，试图确定哪个是男人，哪个是女人。游戏的难点在于，男人必须努力蒙骗提问者，而女人则帮助提问者揭露真相，因此两方的回答都疑团重重。图灵用计算机和人替代游戏中的男人和女人。于是，著名的图灵测试由此产生：计算机和人回答人类裁判员提出的问题，如果裁判无法准确辨别出哪方是计算机，则计算机获胜。
图灵认为，有了这样的结果，我们就没有足够的理由认定机器是非智能的。于是，机器是否智能的问题被简化为机器能否真正思考的问题。
图灵测试的确很难，因为从来没有计算机通过这一测试。虽然彼时的图灵无法预料到长期的结果，但他却用一个结果可见的测试，取代了与“意识”和“思考”有关的晦涩哲学问题，从而鼓励人们把人工智能看作一门有明确目标的科学。
20世纪50年代，随着人工智能学科的成形，它的很多开拓者和支持者都认同图灵：我们大多数人都会承认，任何一台能够和人进行持续且令人信服的对话的计算机，都在做某些需要思考的事（无论是什么事）。
图灵对直觉和才智的区分
在写有关人工智能的论文之前，图灵早已是一位知名的数学家。1936年，他发表了一篇简短的数学论文，探讨了“计算员”的定义。当时，计算员指的是通过一系列步骤的工作得出一个确定结果的人（比如进行数学运算）。在这篇论文里，图灵把人类计算员替换成做同样工作的机器。这篇论文探索了复杂的数学问题，但是对于机器，却没有提及人类的思维或智慧。图灵认为，机器能够自动运转，它们解决问题不需要任何“外部”帮助，也不需要外部智能。这种外部智能，即人类因素，就是时常被数学家称为“直觉”的东西。
1936年，图灵在计算机领域所做的工作，帮助计算机科学发展成为一门学科，也对数理逻辑的发展起到了巨大的推动作用。不过，图灵显然认为，他在早期的定义里遗漏了一些本质的东西。所以，同样的想法——用人类的头脑或能力协助解决问题——出现在他两年后的博士论文里。他在论文中试图绕开数学家、逻辑学家库尔特·哥德尔（Kurt Gödel）的结论，尽管思路巧妙，却以失败告终。图灵的论文有一段和直觉有关，非常有趣。他把直觉和另一种被他称为“才智”的心理能力做了比较：
数学推理可以被简单地视为两种能力的综合运用，我们把这两种能力称为直觉和才智。直觉的活动主要是做出本能的判断，而非通过有意识的推理得出结果。这些判断常常是正确的，但绝非总是正确的（且先不谈“正确”的含义）。我们通常能够找到其他方法，来检验直觉判断的正确性。例如，我们可以断定所有正整数都符合唯一的分解定理，详细的数学论证也会得出同样的结果。这里面也会涉及直觉判断，但是直觉判断不如因式分解这种数学论证那么经得起推敲。我将不再尝试对“直觉”这个概念做出更明确的解释。
接下来，图灵解释了“才智”的概念：“才智在数学上的运用是通过选择和论证恰当的命题，也许还可以用几何图形或图画，来辅助直觉。其目的是，如果命题确实得到了合理论证，其所需的直觉在解题过程中发挥的作用将不会受到严重质疑。”
图灵的这番话为专业人士建立了框架，但是他显然认为：数学家们通常使用某些看似无法分割的特定步骤，来选择问题或“发现”有趣的问题进行研究——这显然不适合计算机编程。
哥德尔的见解
哥德尔也在思考机器智能。和图灵一样，他也为才智（机器）和直觉（头脑）的区别深深着迷。他所认为的区别，本质上和图灵相同，只是表述方式不同：证明和真理（对应的数学术语是“证据理论”和“模型理论”）。哥德尔怀疑，证明和真理的概念最终是否会趋于一致。如果是这样，人们就可以用纯机械化的方式理解数学甚至科学本身。在这种观点下，人类的思考也是机械化的。虽然人工智能这个词语在当时还未出现，但人工智能的概念却与这个问题有着紧密的联系。人类的直觉，即人类掌握事实和意义的能力，是否能够简化为机器或计算？
这就是哥德尔的问题。他在解答这个问题时，碰到了意外的阻碍，这个阻碍很快使他闻名于世。1931年，哥德尔发表了两条数学逻辑定理，即“哥德尔不完全性定理”。他在这两条定理中，展现了所有形式的数学系统的内在局限。这是一个了不起的创举。哥德尔明确无误地指出，数学——所有具有某些直接假设的数学——严格说来都不是机械化或“可形式化的”。更具体地说，哥德尔证明了在任何并不矛盾的形式系统中的命题，但这些命题无法用系统本身的任何规则来证明其是否真实。人类的头脑能够辨别出这种真实的命题，而这些命题的真实性在它的系统中是无法被证明的。
哥德尔是怎样得出这个结论的？得出结论的具体过程复杂且专业。不过，哥德尔的基本想法是：我们可以把一个会做加法的数学系统当作一个有意义的系统，就像英语或德语这种自然的语言一样。如果用这种方式处理一个系统，我们就能够让这个系统谈论自己。比如，它会谈到自己有一定的局限性。这就是哥德尔的见解。
数学里诸如此类的形式系统能够对真理和谬误做出精确的表述。通常，我们用证明工具来创建真理——我们用规则来证明事物，从而知道它确实是真的。但是，有没有无法被证明其真实性的真命题？人类的大脑能够知道系统无法知道的东西吗？在简单的算术问题中，我们通过写下“2+2=4”这样的等式来表述事实。一般方程就是在数学系统中的真命题，可以用数学规则来证明。在这里，可证明的命题就是真命题。哥德尔之前的科学家认为，所有的数学系统都具有这个特性。这就意味着，机器只要正确运用规则，就能在不同的数学系统里快速推演出所有真实或虚假的命题。这是一个美好的想法，只是不真实。
哥德尔偶然发现，自指具有罕见的强大特性。无须打破数学系统的规则，就能建立数学形式的自指表述，比如“在这个系统里，这个命题是无法证明的”。但是，这种表述是矛盾的：如果它们是真的，它们就无法被证明；如果它们是假的，那么，因为它们说自己是可以证明的，它们其实是真的。真意味着假，假意味着真——矛盾产生了。
回到直觉的概念，我们会发现，其实哥德尔命题是真的，但是根据哥德尔的结论，我们知道系统的规则无法证明它——实际上，系统无视未被其规则涵盖的东西。真理和可证明性是分开的。也许人类大脑和机器也是。总之，纯形式系统是不完备的。它无法用自己的规则证明某些事物是真的。因此，我们人类可以看到计算机看不见的东西。
哥德尔的结论沉重地打击了当时大众的想法，即所有的数学都可以转化为基于规则的操作，炮制出一个又一个数学真理。当时的思潮是形式主义，而不是谈论思想、精神、灵魂等。数学中的形式主义运动标志着知识分子大量转向科学唯物主义，尤其是逻辑实证主义——这场运动致力于根除传统的“形而上学”，比如柏拉图主义，也根除传统宗教概念，比如上帝的存在。事实上，世界正转而关注精密机器的概念。在当时没有人比德国数学家大卫·希尔伯特（David Hilbert）更积极地从事形式主义的研究。
希尔伯特的挑战
20世纪初，在哥德尔提出他的不完全性定理之前，大卫·希尔伯特向数学界发起了一个挑战：证明所有的数学都建立在一个可靠的基础上。希尔伯特的问题不难理解。如果纯粹形式的数学规则不能证明任何真理，那么数学至少在理论上可以掩盖矛盾和谬论。数学中某个隐藏的矛盾会毁灭一切，因为基于这个矛盾，一切都可以得到证明。这样的话，形式主义就会毫无用处。
希尔伯特表达了所有形式主义者的梦想——证明数学系统是一个仅受制于规则的封闭系统。真理是可以被证明的。我们只要遵循证明的“密码”，确保不违反规则，就能获得知识。坦率地说，这个宏大的梦想是一种世界观，或一幅把宇宙本身描绘成一部机器的画作。人工智能开始成为一种想法，一种可以被证明的哲学观点。形式主义把智能看成一个基于规则的过程或一部机器。
1900年，希尔伯特在第二届国际数学家大会上向学术界提出了他的挑战。他的挑战有三大部分：证明数学是完整的；证明数学是一致的；证明数学是可判定的。
1931年，哥德尔发表的“哥德尔不完全性定理”击溃了希尔伯特所提出挑战的第一部分和第二部分。可判定部分则悬而未决。如果有一个证明方法或一系列明确的步骤，可以判断用系统规则创建的命题是真还是假，这个系统就是可以判定的。命题“2+2=4”必定是真的，而“2+2=5”必定是假的。因此，人们用系统的符号和规则创建的所有命题也是如此。因为算术被认为是数学的基础，所以证明数学的可判定性就是证明算术及其扩展结果的可判定性。这就相当于说，奉行形式主义的数学家们在玩一个有规则和符号的“游戏”——一个永远不会走向矛盾或谬论的有效游戏。
图灵对哥德尔的结论很着迷。这个结论展示的不是形式系统的力量，而是其局限性。他开始着手研究希尔伯特提出挑战的剩余部分，并开始认真思考形式系统里是否能存在决策程序。1936年，他在自己的论文《关于可计算数及其在判定问题中的应用》（On Computable Numbers,with an Application to the Entscheidungs problem）里，证明了决策程序必定是不存在的。图灵发现，哥德尔对自指的使用，也可以用在有关决策程序的问题上，即计算机程序上。他在论文中指出，一定存在没有明确方法可以“计算”的实数。他引用了德国数学家格奥尔格·康托尔（Georg Cantor）的结论。康托尔证明过，实数和整数都是无穷多的，但实数多于整数。也许，图灵站在了巨人的肩膀上。但是最后，他在论文中再次举了反证。他得出了一个有限的结论：不可能有通用的决策程序。换言之，即使在数学系统里，规则也是不够的。希尔伯特错了。
人工智能的含义
对人工智能来说，有一件事很重要：图灵发明了一台机器，反驳了“数学是可判定的”这一观点。这是一台不需要洞察力和智慧就能解决问题的充满确定性的虚拟机器。今天，我们把他所提出的抽象的计算模型称为图灵机。现在我正在计算机上打字，而图灵机就是现代计算机的雏形。这是思想史上最大的讽刺之一，“计算”能力被一个如此简单的模型所概括，成为达到另一种目的的手段。在图灵致力于反驳数学是可判定的过程中，发明了一件精确而机械化的东西——图灵机。
在图灵1938年的博士论文中，他希望在加入额外规则后，形式系统可以得到扩展，从而解决哥德尔提出的系统有局限性的问题。然而，他发现没有办法可以逃脱哥德尔不完全性定理，因为这个更强大的新系统会出现更复杂的新问题。此外，在图灵对形式系统的复杂论述中，隐藏着一个与人工智能的可能性有关的古怪的猜测：也许，直觉的能力无法被简化成某种算法或一套系统的规则？
在图灵1938年的论文中，他希望找到方法摆脱哥德尔不完全性定理的限制，却发现无法做到。于是，他转而研究运算时如何“大幅减少”对人类直觉的需求。在论文中，他创建了更为复杂的规则系统，思考才智的力量。事实证明，才智更为通用——有的机器可以接受其他机器编号的输入，从而模拟其他任何图灵机的运行。按此理解，从技术上说，这类机器不是简单的图灵机，而是通用图灵机，是日后的数字计算机的雏形。但是，图灵在正式研究计算机的过程中泄露了他把直觉和计算机纯粹的形式系统的运作区分开来的想法——进行数学计算的计算机程序和人类数学家可能是不同的。
到了1950年，图灵发表了《计算机器与智能》（Computing Machinery and Intelligence）一文，对智能计算机的可能性做了更多讨论。他不再在有关哥德尔见解的论文中讨论直觉，取而代之的是关于计算机本身成为“直觉机器”的可能性讨论。从本质上说，他认为哥德尔的结论不适用于人工智能的问题：如果我们人类是高度先进的计算机，那么哥德尔的结论只意味着，我们就像不太复杂的计算机一样，无法理解或发现某些命题是正确的。那些命题也许复杂又有趣，也可能老套又晦涩。哥德尔的结论留下了一个疑问：人类的大脑是否只是非常复杂的机器，且有着非常复杂的局限性？
换句话说，在图灵对机器及其能力的观点中，直觉已经占据了一席之地。对图灵来说，哥德尔的结论没有说明人类的大脑是不是机器。一方面，根据哥德尔不完全性定理，运用直觉，有些命题可以被判定为真，但是计算机无法证明其是真的。另一方面，更强大的计算机能够用更多公理或更多相关的代码，来证明这个结果——说明在这个问题上，直觉没有超越计算。这成了一场军备竞赛：对于愈加复杂的问题，愈加强大的才智在取代直觉。没人能断言谁会赢得这场比赛，因为没有人能够利用哥德尔不完全性定理，解释才智（机器）和直觉（头脑）间的固有差异。但是图灵无疑知道，如果真是这样，那么至少人工智能的出现是可能的。
图灵对才智和直觉的看法发生了改变。1938年，图灵认为直觉是一种神秘的“选择力”，帮助数学家决定用哪个系统工作以及解决什么问题——直觉不是计算机里的某样东西，而是决定计算机的东西。他还认为，直觉不属于任何系统。这不仅说明人类的大脑和机器有本质的区别，也暗示像人类一样思考的人工智能几乎是不可能出现的。
然而，到了1950年，图灵的立场又转变了。他似乎产生了一种关于智能的新观点，并用图灵测试向怀疑者发起了挑战，也为机器的直觉进行了一些辩护。实际上他在问：为什么不可能呢？——这是一个彻底的反转。
为什么会有这个转变？这是因为在那段时间里，图灵经历了严谨的数学、逻辑、形式系统之外的事。不仅是他，整个英国，甚至世界上大部分地方，都经历了那件事——第二次世界大战。
注释
[1]指国际商业机器公司。——译者注。