第一章　人工智能时代

你也许不会每天都意识到人工智能，但它就藏在你身边每个角落。网络搜索离不开人工智能，它还打败了《危险边缘》（Jeopardy！）[2]和围棋的世界冠军，而它每时每刻都在变得更为强大。但我们还没有建造出通用人工智能——能够仅凭自身进行有意义的对话，整合关于各种话题的想法，甚至可能拥有超越人类的思考能力。《她》（Her）和《机械姬》（Ex Machina）等电影刻画的就是这种人工智能，它给你的印象也许就是科幻。

但我觉得这种人工智能并没有那么遥远。人工智能发展的推动力来自市场需求和军工产业——人们正在将数十亿美元的资金倾注到这一行业，用于制造智能家居助理、超级机器人士兵，还有能够模仿人类大脑运作的超级计算机。比如日本政府因为预期将来会出现劳动力短缺，所以已经开始倡议利用仿生机器人照顾全国的老年人。

目前正在飞速发展的人工智能，在未来数十年也许会达到所谓的通用人工智能。跟人类智能一样，通用人工智能可以将不同领域的洞见结合起来，思考灵活而具有常识。实际上，人们预计人工智能在数十年内会取代不少人类职业。例如，根据最近一项调查，论文被引最多的人工智能研究者预计，人工智能有50%的可能性在2050年前能够在大部分人类职业上至少与一般人旗鼓相当，而在2070年前做到这一点的可能性是90%1。

我之前提到，许多行业观察者都在预警超级人工智能的出现，这些机械智能可以在每一个领域，甚至包括常识推理与社交技能，都超越最聪明的人类。他们强烈表示超级智能也许会毁灭我们。另一方面，在谷歌就任工程总监的未来学家雷·库兹韦尔（Ray Kurz-weil）则描绘了一个技术乌托邦。在那里，衰老、疾病、贫困以及资源紧缺都会被消灭。库兹韦尔甚至探讨了与类似电影《她》中的程序萨曼莎（Samantha）的个性化人工智能系统建立友谊的潜在好处。

技术奇点

库兹韦尔与其他超人类主义者声称我们正在迅速接近所谓的“技术奇点”，在这个时间点之后，人工智能将会远远超过人类智能，它们能够解决我们此前无法解决的问题，会给文明和人性带来无法预测的影响。

奇点这一想法来自数学和物理，尤其受黑洞的概念影响。黑洞是时空中的“特异”物体，通常的物理定律在此处不再适用。而类比到技术上，到达技术奇点时，技术发展将不受控制，给人类文明带来极大的转变。人类数千年以来遵行的规则将会突然崩解，一切都要推倒重来。

另一种可能是技术创新并非如此迅速，不会将我们引向一夜之间翻天覆地的真正技术奇点。但我们不应该为此而忽视更重要的一点，就是我们必须充分理解到，随着二十一世纪逐渐展开，人类可能不久之后就不再是这个星球上最有智慧的存在。这个星球上最强大的智能将会是人工智能。

的确，我认为目前已经有一些证据表明人工智能将会超越我们。即使是现在，作为计算介质的芯片就已经比神经元更快。当我写下这一章时，世界上最快的计算机是位于美国田纳西州橡树岭国家实验室的超级计算机“顶点”（Summit）。“顶点”的运算速度是200 petaflops，也就是每秒能完成二十亿亿次运算。“顶点”在眨眼间能完成的计算，即使让地球上所有人合作进行，也需要305天不眠不休才能完成2。

当然，速度并非一切。如果衡量的标准不是算术运算，那么你的大脑在计算能力上要远远强于“顶点”。大脑是三十八亿年演化的产物（这是地球上生命存在时间的粗略估计），它的能力全部用在模式识别、快速学习以及其他实际的生存挑战上了。单个神经元的运算可能不快，但它们以大规模并行的形式组合起来之后，仍然令现代人工智能系统望尘莫及。然而，人工智能有着无限的提升空间。也许在不远的将来，通过工程设计，超级计算机可以达到甚至超越人类大脑的智能，然后改进它自己的算法，甚至开发出并非基于大脑运作方式的全新算法。

此外，人工智能可以同时下载到多个地点，能够轻松备份并修改自身，而且能在星际旅行等生物难以适应的环境中生存下去。我们的大脑虽然强大，但被颅骨容量和新陈代谢所限制，而人工智能与之截然相反，能够将触角延伸到整个互联网，甚至建立跨越整个星系的“计算基质”（computronium），也就是一台利用整个星系所有物质进行计算的巨型超级计算机。长远来说，两者根本没有可比性。人工智能会比我们更强大更长寿。

《杰森一家》谬误

所有这一切不一定意味着我们人类将会丧失对人工智能的控制，注定面临灭绝，虽然某些人是这样说的。如果我们利用人工智能技术来增强自身智能，也许就能与它并肩前进。要记住，更智能的机器人和超级计算机并不是人工智能的唯一用途。在电影《星球大战》（Star Wars）和动画片《杰森一家》（The Jetsons）中，人类周围遍布精巧的人工智能，但他们自身却没有增强。历史学家迈克尔·贝丝（Michael Bess）将其称为“《杰森一家》谬误”3。在现实中，人工智能不仅会改变世界，而且会改变我们。神经织网、人工海马体、治疗心境障碍的大脑芯片，这些都只是正在开发的心智干预技术的一部分。所以，心智设计中心并非如此遥不可及。恰恰相反，它是目前技术趋势的合理延伸。

现在越来越多的人将人类大脑看作某种像计算机那样可以被入侵改动的事物。单单在美国就有许多开发大脑植入芯片的项目，希望以此治疗精神疾病、行动障碍、中风、痴呆症、自闭症等疾病4。今天的医学治疗在明天不可避免会变成大脑增强的手段，毕竟人们渴望变得更聪明更有效率，或者就是希望拥有能更好地享受这个世界的能力。为此，谷歌、Neuralink与Kernel等人工智能公司正在开发各种将人类与机器融合的方法。数十年后，你也许会成为一半人类一半机器的存在。

超人类主义

这方面的研究仍在起步阶段，但应该强调的是，它的基本想法在很久以前就以哲学和文化思潮的形式存在了，就是所谓的超人类主义（transhumanism）。这个术语是朱利安·赫胥黎（Julian Huxley）在1957年提出的，他写道，在不久的未来，“人类这个物种会踏上通向某种新存在形式的门槛，它与我们的差异有如我们与北京猿人的差异。”5

超人类主义的观点是，人类作为一个物种，目前正处于相当早期的发展阶段，而它的演化过程会被发展中的科技所改变。未来的人类无论在身体还是心理方面都会与目前的人类截然不同，会更像是科幻故事中描述的某些角色。未来的人类能接近永生，智力会有根本性的提高，会与人工智能产生深厚友谊，身体特征也可以自行选择。超人类主义者也相信，无论对于个人的成长还是对于我们整个物种的发展来说，这种未来都值得期待。（为了让读者能更深入了解超人类主义，我附上了《超人类主义宣言》作为附录。）

尽管超人类主义看似科幻，但它描述的许多技术进步似乎相当可能发生。的确，这一根本性转变的起始阶段可能已经潜藏在某些已知的技术进展之中，这些进展要么已经实现（但不一定面向大众），要么就被相关科学领域的观察者认为假以时日就能实现6。例如，作为超人类主义重镇的英国牛津大学未来人类研究所（Future of Humanity Institute）发表了一份报告，描述了将心智上传到机器需要哪些技术7。美国国防高级研究计划局也资助了一个名为Synapse（意即“突触”）的项目，目标是开发一台形态和功能与大脑相似的计算机8。库兹韦尔甚至讨论了与类似电影《她》中的个性化人工智能系统建立友谊的潜在好处9。许多研究者正在努力尝试将科幻变为现实。

我自认为是超人类主义者，你可能会很惊讶，但这是事实。我第一次接触超人类主义时还是美国加利福尼亚大学伯克利分校的本科生，那时我加入了一个名为Extropians的早期超人类主义团体。在埋头于我男朋友的科幻小说收藏以及Extropians的邮件列表之后，我沉迷于超人类主义在地球上实现技术乌托邦的想象。我仍然希望新兴科技能够从根本上延长我们的寿命，帮助我们解决资源匮乏与疾病的问题，甚至提升我们的精神生活，如果我们愿意进行大脑增强的话。

几句警示

挑战在于如何在完全的不确定性中从现在到达那个未来。今天的任何书籍都不可能准确预测心智设计空间的轮廓，即使我们的科学知识和技术能力越发精进，心智设计背后的哲学迷雾也不一定会因此消散。

一个很好的教训是，有两个重要的原因使得未来不可预见。首先是“已知的未知”，比如说，我们不能确定量子计算什么时候能被广泛应用，也不知道某些人工智能技术是否会受监管，又会受怎么样的监管，同样不知道现有的人工智能安全措施是否有效。我相信，我们也不知道在本书中讨论的哲学问题有没有简单而无可争议的答案。但还存在着“未知的未知”——未来发生的事件，比如政治形势的变化、技术创新、科技突破，都可能完全出乎我们意料。

在接下来的章节中，我们将会考虑其中一种主要的“已知的未知”，也就是意识体验的谜题。我们会深入理解到对于人类来说这一谜题是如何产生的，然后就是如下的问题：对于跟我们在智力上拥有巨大差距，甚至可能基于不同载体的存在，我们如何能够判断它们是否有意识？意识到这一问题的深度，就是个很好的起点。