论点

浪潮在人类生活中无处不在，而我们讨论的是最新的技术浪潮。人们常常觉得它仍然遥不可及，仿佛只是关于未来的幻想，听起来甚至有些荒谬。人们认为这场浪潮仅仅是少数书呆子和边缘思想家头脑里的东西，充满了夸张、术语和噱头。这种认识是错误的。相反，这场浪潮是真实存在的，就像从宽阔的蓝色海洋中袭来的海啸一样真实。

这并非幻想或纯粹的理论探讨。即使你不同意我的观点，认为这一切都不太可能发生，我也希望你能继续阅读下去。的确，我有人工智能的背景，习惯于从技术的视角审视世界。在探讨这场技术浪潮是否真的具有重大影响这一问题时，我难免带有一定的偏见。但是，在过去15年里，在近距离亲眼看见了这场不断深化的技术革命之后，我确信我们正站在一生中最为重要的变革的风口浪尖。

作为这些技术的一个构建者，我相信它们能带来众多的好处，改善无数人的生活，解决一系列根本性挑战，无论是助力开发下一代清洁能源，还是为我们最棘手的疾病提供廉价而有效的治疗方法。技术可以也应该丰富我们的生活。有必要强调的是，历史上，这些技术背后的发明者和企业家一直是推动社会进步的强大动力，改善了数十亿人的生活。

但是，如果没有遏制，技术的所有其他方面，包括每一个关于其伦理缺陷或可能带来的好处的讨论，就都将变得没有意义。如何控制和遏制这场即将到来的技术浪潮？如何在这场浪潮中维护民族国家的保障和供给？我们迫切需要为这些问题找到完美答案。但目前，还没有人能回答这样的问题。我们正面临着一个没有人希望看到的未来，但我担心它出现的可能性越来越大。我会在接下来的章节中解释原因。

在本书第一部分，我们将回顾技术发展的漫长历史，以及技术是如何像浪潮一样在几千年的时间里传播的。这些技术浪潮背后的驱动力是什么？是什么使它们在人类社会普及？我们还将讨论，是否有人类社会有意识地回避一项新技术的先例。过去，人们通常不会谈论回避技术，技术的扩散模式十分明显，而那导致了一系列有意和无意的后果。

我把这个问题称作“遏制问题”。如今，我们拥有人类发明出来的最具价值的技术，它们比以往任何技术都更加经济实惠，传播速度更快。我们该如何把控这些技术呢？

本书的第二部分详细阐述了即将到来的技术浪潮的特征。其核心是两项通用技术，即人工智能和合成生物学，它们都具有巨大的前景和力量，也伴随着巨大的风险。尽管这两者长期以来都已备受关注，但我认为它们的影响范围仍然常被低估。围绕这两项技术，已经发展出了一系列相关技术，如机器人和量子计算，这些技术的发展将以复杂而动荡的方式相互影响。

在这一部分中，我们不仅要探讨这些技术的出现模式以及它们具有的力量，还要深入剖析它们如此难以遏制的原因。这些技术都具有4个关键特征，这些特征使得这一次的技术浪潮与以往不同：它们本质上具有通用性，因此可以得到多元应用；它们具有超级进化性；它们的影响具有非对称性；在某些方面，它们还呈现出日益提升的自主性。

这些技术产生的背后有强大的驱动力：地缘政治竞争、巨额经济回报，以及开放、分布式的研究文化。无论我们能否有效监管和控制即将到来的风险，无数的国家与非国家实体都将争先恐后地开发这些技术，它们的行为将影响所有人，无论我们是否喜欢这一点。

本书的第三部分探讨了难以遏制的技术浪潮引发的大规模权力再分配所带来的政治影响。我们目前的政治秩序基础，也是技术遏制的最重要参与者，是民族国家。民族国家已经受到各种危机的冲击，而这一浪潮将进一步放大这些冲击，带来一系列的新挑战和威胁，包括潜在的新型暴力形式、错误信息的泛滥、工作岗位的流失，以及灾难性事故发生的可能性。

此外，这一浪潮将迫使权力发生一系列结构性转移，同时呈现出权力集中化和分散化的趋势。这将创造出庞大的新企业，巩固威权主义，同时将赋予某些群体和运动在传统社会结构之外的生存能力。浪潮到来时，将是我们最需要民族国家这样的机制的时候，而那时民族国家的内在微妙平衡也将面临前所未有的压力。这也正是我们陷入困境的原因。

在本书第四部分，我们将讨论如何应对即将到来的技术浪潮。我们是否还有一线希望，能够摆脱上述困境？如果存在这样的希望，应该如何实现它？在这一部分，我们提出了10个步骤，其涵盖代码编程和DNA技术的微观层面以及国际条约的宏观层面，旨在构建一套相互衔接的有力的遏制机制，作为我们实现技术遏制的基本计划。

这是一本关于应对技术失败的书。技术失败可以指普通意义上的技术故障，如发动机不工作、桥梁坍塌。但这一失败还可以从更广泛的意义上理解。如果技术损害了人类生命，催生了伤害人类的社会，或者让一些恶意（或无意中具有危险性的）行为者掌握了权力，社会就会无法管控和治理……总之，如果技术总体上造成了破坏，那么我们就可以说技术在一个更深的层次上失败了，它背离了其初衷和承诺。这种意义上的技术失败并不是技术本身固有的问题，而是与技术所处的环境、治理结构及其所服务的权力网络和用途有关。

人类身上令人惊叹的创造力为我们带来了无数成就，这种创造力使得我们擅长避免前一种类型的技术失败。正因如此，飞机失事事故变得越来越少，汽车变得更加清洁和安全，计算机变得功能更强大且更加安全。然而，我们面临的巨大挑战是，我们还未认真考虑后一种失败。

几个世纪以来，技术极大地提高了数十亿人的福祉。现代医学极大地改善了我们的健康状况，世界上大多数人能够享受到食物充足的生活，人们的受教育水平从未如此之高，和平程度也达到了前所未有的水平，物质生活比以往都更加丰富。这些都是人类的重大成就，其中一部分这样的成就正是由科学和技术创造的伟大引擎促成的。这也是我一生致力于安全地开发这些技术工具的原因。

但是，在我们从这段非凡的历史中汲取任何乐观情绪的同时，我们也必须坦诚面对现实。要防范技术失败，我们就必须理解并最终正视可能出现的问题。我们必须将理性的思考延伸到其逻辑终点，不能畏惧它指向的潜在结果。在我们认识到不好的结果可能出现时，我们必须采取行动。即将到来的技术浪潮带来了比以往任何时候都更加紧迫和巨大的威胁，这需要全球范围内的共同关注和应对。它急需答案，而目前还没有人能够回答。

技术遏制看起来不可能实现。但为了所有人的利益，我们必须让遏制成为可能。