序言

人类把自己这个物种命名为智人——有智慧的人类。但我们究竟配不配得上这个称号，实在还有待商榷。

过去10万年间，我们智人确实积攒了巨大的力量，光是要列出人类所有的发现、发明和征服的事物，没有厚厚的几本书根本就装不下。然而，有力量并不等于有智慧，经过10万年的发现、发明与征服，人类已经把自己推向了一场生存危机。由于滥用各种力量，人类已然处于生态崩溃的边缘。人类现在还忙着创造像人工智能（AI）这样的新技术，但这些技术有可能逃脱人类的掌控，反过来奴役或消灭人类。然而，人类非但没有团结起来应对这些存亡挑战，还让国际紧张局势不断升温，全球合作更加困难，各国大量储备末日武器，一场新的世界大战正在逼近。

我们智人如果真那么聪明，为什么还会走上自我毁灭的道路？

从更深的层次而言，人类虽然累积了海量信息，从DNA（脱氧核糖核酸）分子到遥远的星系，无所不包，却仍然无法回答生命中最重大的问题：我们究竟是谁？我们应该追求什么？什么才是所谓美好的生活，我们又该怎样过上这样的生活？我们虽然掌握了大批信息，却还是像远古的祖先，容易受到幻想与错觉的迷惑。即使是现代社会，偶尔也会出现群众大规模失去理智的情形，例如纳粹主义。人类如今比石器时代拥有了更多的信息和力量，这一点毋庸置疑，但我们对于是否真的更了解自己，更了解自己在宇宙中的角色，却远远没那么确定。

所以，为什么人类那么会积攒信息与力量，但在智慧的获取上却又如此不成功？纵观历史，许多文化传统都提到，人类本性中的某些致命缺陷会让人类追求自己根本不知道如何驾驭的力量。希腊神话里就提到有个男孩叫法厄同，他发现自己原来是太阳神赫里阿斯的儿子。为了证明自己是神祇之后，法厄同希望能享有一日特权，驾太阳神的四马金车出游。赫里阿斯警告法厄同，拉着四马金车的天马绝非凡人所能驾驭，但经不起法厄同再三坚持，赫里阿斯终于让步，让法厄同得意地驾车飞上天空。天马还是不出意外地失控了。于是，太阳偏离了轨道，植被被烤焦，无数生物惨死，大地眼看不保。最后宙斯出手，一道闪电击中了法厄同，这个自负的人类如同流星从空中坠落，就连自己也在燃烧。诸神终于让天空恢复了秩序，世界也免于被毁灭。

时间过了两千多年，工业革命迈出了第一步，机器开始在许多工作上取代了人力，歌德也写出了类似的警世寓言，名为《魔法师学徒》。歌德的这首叙事诗（后来由迪士尼改编制作成一部广为人知的动画片，主角正是米老鼠）讲述的是，一位年迈的魔法师在出门的时候把工作坊交给一名小学徒，让他处理一些去河边打水之类的杂务。小学徒想偷懒，就擅自施展了魔法师的一条咒语，让一把扫帚帮他打水。但小学徒还没学过怎样叫扫帚停下来，结果水越打越多，整个工作坊都快被淹没了。情急之下，小学徒拿斧头把魔法扫帚砍成两段，却发现一把扫帚变成两把，两把扫帚一起打水灌向工作坊。等到魔法师终于回来时，小学徒向他求救：“我召唤了魔法精灵，却无法让它停下来。”魔法师立刻解除了咒语，阻止了大水。这给小学徒（也就是给人类）的教训再清楚不过了：永远别去召唤自己控制不了的力量。

法厄同与小学徒的故事，能让21世纪的我们得到什么警示？人类显然没听进去这些警告，除了让地球气候失衡，还召唤了数十亿的魔法扫帚、无人机、聊天机器人和其他各种算法精灵，这些精灵不但可能会失控，还可能让各种意想不到的后果如大水汹涌而至。

那我们该怎么办呢？这些故事并没有给出真正的答案，似乎就只能等着某个神祇或者魔法师出面收拾残局。但这种想法极其危险，等于鼓励我们放任自流，转而去相信那些神祇或魔法师。更糟的是，这些故事并没有让我们意识到，神祇或魔法师本身就是人类的发明，与四马金车、魔法扫帚和算法并没什么两样。创造出强大的事物，却带来意想不到的后果，这个现象并非始于蒸汽机或人工智能的发明，而是始于宗教。先知与神学家召唤出强大的神灵，这些神灵本该给人间带来欢乐与慈爱，但有时留下的却是一片血海。

不管是法厄同的神话故事还是歌德的叙事诗，之所以无法提供有用的建议，是因为它们都误解了人类获取力量的方式。这两则故事都讲述了某个人获取了巨大的力量，但随后因为傲慢与贪婪而走上歧途。于是得出这样的结论，因为个体心理缺陷导致了权力滥用。但这样的分析实在太过粗糙，而且忽略了一个重要方面：力量从来就不是个人努力的结果，人类的力量总是源于大批人的合作。

因此，真正造成人类滥用力量的原因并不在于个人的心理。毕竟，除了贪婪、傲慢与残忍，人类还有慈爱、谦逊、快乐与同情。确实，如果去看那些最糟糕的人类，会看到贪婪与残忍大行其道，恶人滥用力量。但究竟是什么让人类社会选择把力量交付那些最糟糕的人？比如在1933年，大多数德国人并非精神失常，但为什么他们会投票给希特勒？

人类之所以喜欢召唤自己控制不了的力量，问题不在于个人的心理，而在于人类在大规模合作时的一种特性。本书想提出的一个主要论点就是：虽然人类能建立大规模合作网络，以此获取巨大的力量，但这些网络的建构方式注定了人类对这些力量的运用常常并不明智。因此，人类遇到的问题归根结底是个网络问题。

讲得更明确一点，这是个信息问题。信息是维持网络联结的黏合剂。数万年来，智人正是靠着发明与传播各种虚构故事、幻想和大量的错觉——内容可能关于神祇、魔法扫帚、人工智能和许多其他事物——来打造并维持诸多的大规模网络。虽然个人通常了解的都是关于自己与世界的真理与真相，但大规模网络却会使用各种虚构故事与幻想将成员联结在一起并创造秩序。举例来说，我们过去就是这样走向了纳粹主义，纳粹主义形成了格外强大的网络，并由极具迷惑性的想法加以支撑维系。正如乔治·奥威尔的那句名言：“无知就是力量。”

纳粹主义的政权基础，就是一些令人痛苦的幻想和毫无羞耻的谎言，但这在历史上实在称不上特殊，也不代表它们注定崩溃。纳粹主义可以说是史上人类创造出的最强大网络。从1941年年底到1942年年初，法西斯国家联盟（德、意、日）曾经有望赢得第二次世界大战，而斯大林最终成为二战的胜者。[1]虽然在20世纪90年代自由民主国家占了上风，但如今看来那可能只是暂时的胜利。到21世纪，过去希特勒等人没做到的，很可能会由一些新的极权主义政权接手完成：创造出一个无所不能的网络，甚至能够阻止后代去尝试揭露其中的虚构与谎言。我们不该以为这些网络的基础因为都只是些虚构妄想就注定会失败崩溃。想要避免这些网络的最终成功，我们自己将不得不付出艰苦的努力。

天真的信息观

我们之所以很难看清这些虚构妄想的网络究竟拥有多大的力量，是因为我们对于大规模信息网络（无论其信息是真实还是虚构的）的运作方式有一种整体上的误解，我称之为“天真的信息观”。如果说法厄同神话与《魔法师学徒》这样的寓言故事呈现了一种对个人心理的悲观看法，那么天真的信息观对大规模人类网络的看法则显然太过乐观。

天真的信息观认为，通过收集与处理比个人多得多的信息，大规模网络能更好地了解医学、物理学、经济学等诸多领域，于是这样的网络不但力量强大，还无比明智。举例来说，通过收集更多关于病原体的信息，制药公司与医疗保健服务机构就能找出更多疾病的病因，从而研发出更强大的药物，并就药物的使用做出更明智的选择。这种观点认为，有了足够多的信息，就能得到真理与真相；有了真理与真相，就能得到力量与智慧。相较之下，无知似乎无法通向任何地方。虽然在某些历史上的危急时刻，基于妄想或欺瞒而形成的网络偶尔会出现，但长期看，这些网络必然会败给那些真实且可信的网络。医疗保健服务机构如果无视病原体的信息，或者制药公司刻意散播不实信息，到头来肯定都会输给那些更聪明地利用信息的对手。因此，天真的信息观就会相信，那些基于妄想的网络肯定只是异常，而大规模网络通常都值得信赖，肯定能明智地运用其力量。

当然，天真的信息观也承认，在从信息到真理与真相这条路上，有很多事情可能会出问题。比如我们在收集与处理信息的时候可能会犯下一些无心的错误，可能有些坏人会出于贪婪与仇恨而想隐藏重要事实或试图欺瞒。因此，有些时候信息并非导向真理与真相，反而导向错误。比如，信息不完整、分析有错误，或有人刻意散布虚假信息，都可能让人误入歧途，于是就连专家也可能对某种疾病的真正成因产生误判。

然而，天真的信息观会认为，面对收集与处理信息时遇到的大多数问题，解决办法就是收集与处理更多的信息。错误本来就不可能完全避免，而在大多数情况下，如果能获取更多信息，确实能让准确率有所提高。如果想找出一场流行病的起因，一位医生想从单一患者身上得到答案，其准确性显然比不上几千位医生收集几百万患者的数据做出的判断。如果这群医生密谋隐瞒真相，只要让公众和调查记者都能自由地取得相关医疗信息，这一隐瞒行为终将会败露。从这种观点看来，信息网络越大，就能越接近真理与真相。

当然，就算我们准确地分析了信息，发现了重要事实，也无法保证我们因此得到力量之后能够明智地加以运用。一说到明智，大部分人会认为就是能“做出正确的决定”，但所谓“正确”是有价值判断的，不同的个人、文化或意识形态就会有不同的想法。比如，科学家发现了新的病原体之后，一种想法可能是研发疫苗来保护人类，但如果这位科学家（或是其统治者）抱持种族主义的意识形态，一心认为某些种族就是劣等民族，应该被消灭，那么这项新的医学发现就可能被用来研发生物武器，以此夺走数百万人的生命。

即使在这种情境下，天真的信息观也会认为，只要有更多信息，至少还是能解决部分问题的。天真的信息观认为，只要仔细检查就会发现，人之所以会有不同的价值观，要么是因为信息缺乏，要么是有人在刻意传播虚假信息。根据这种观点，之所以会有种族主义者，只是因为这些人得到的信息还不充分，对生物学与历史事实了解得还不够。这些人误以为在生物学上真的能把人分成不同的“种族”，他们被各种虚假的阴谋论洗脑了。因此，要想解决种族主义问题，就要向公众提供更多关于生物学与历史的事实。虽然这可能得花些时间，但在这种自由的信息市场上，真理与真相迟早都能胜出。

当然，天真的信息观其实还涉及更多细节与思考，并不是以上几段文字就能解释的，但其核心原则就是：信息本质上是件好事，我们拥有的信息越多越好。只要有足够的信息和足够的时间，我们就一定能找出各种事物的真相（从病毒感染到种族主义偏见），不但让人类的力量得以提升，也能让智慧得以成长，进而能更明智地利用这种力量。

这种天真的信息观为发展更强大的信息科技提供了理由，而这种观点也成为计算机与网络时代半官方意识形态。1989年6月，就在柏林墙倒塌与铁幕被冲破的前几个月，罗纳德·里根宣告，“极权主义的歌利亚很快就会被微晶片的大卫打倒”，同时提到“最大的老大哥在面对通信科技时已越来越无助……信息就是现代社会的氧气……能够越过顶部装了刺网的高墙，能够飘过通了电、设了各种陷阱的边界。电子束如同微风，仿佛穿越蕾丝一般吹过铁幕”[2]。2009年11月，时任美国总统奥巴马到访上海，也表达了同样的看法，他向中国东道主表示：“我非常相信技术的作用，非常重视开放性。在信息流动方面，我认为信息流通越自由，社会就变得越强。”[3]

创业者与企业也常常对资讯科技抱持同样乐观的看法。早在1858年，《新英格兰人》（The New Englander）就有一篇社论谈到电报这项发明：“既然已经创造出这样的工具，让全世界所有国家的思想得以交流，过去的偏见与敌意必将无以为继。”[4]在经过将近两个世纪以及两次世界大战之后，马克·扎克伯格则表示，脸书的目标“是帮助大众分享更多信息，好让世界变得更加开放，以及促进人与人之间的理解”[5]。

著名未来学家、创业家雷·库兹韦尔2024年出版的新书《奇点已更为临近》（The Singularity Is Nearer）回顾了信息技术的发展史，并得出结论：“现实情况就是，随着科技指数级的改进，生活的几乎所有方面都在变得更好。”书中回顾了人类历史上的重大发展，列举了印刷术的发明等例子，认为信息技术从本质上倾向于产生“一种良性循环，让人类福祉的几乎所有方面都得到改进，包括识字、教育、财富、卫生、健康、民主和减少暴力”[6]。

最能够简洁表达出这种天真信息观的，或许就是谷歌的使命宣言：“整合全球信息，使人人皆可访问并从中受益。”面对歌德的警告，谷歌显然认为虽然一个学徒偷走老师的魔法咒语可能造成灾难，但如果很多学徒能够自由获取世界上所有的信息，这些学徒就不但能创造出人人受益的魔法扫帚，还能学会明智地使用这股力量。

谷歌与歌德

这里必须强调，很多时候，拥有更多的信息确实能让人更加了解世界，更明智地运用手中的力量。以儿童死亡率的大幅下降为例，歌德是全家7个孩子里的老大，但只有他和妹妹柯妮莉亚庆祝了7岁生日。其他孩子多半因病夭折，赫尔曼·雅各布6岁时死于疾病，凯瑟琳娜·伊丽莎白活到4岁，约翰妮·玛丽亚活到2岁，乔治·阿道夫只活了8个月，还有一个弟弟来不及取名便胎死腹中。最后柯妮莉亚在26岁病逝，全家这一代只剩歌德一人。[7]

歌德自己后来也生了5个孩子，但除了长子奥古斯特，其余的孩子都在出生后两周内夭折。夭折的原因很可能是歌德和妻子克里斯典娜的血型不兼容，让她在第一次成功怀孕后，体内出现了对抗胎儿血型的抗体。这种病被称为Rh血型不合溶血病，目前已能有效治疗，死亡率不到2%，但在18世纪90年代，这种疾病平均死亡率高达50%，等于给歌德后来的4个孩子都判了死刑。[8]

18世纪末，歌德家族堪称德国的富裕家庭，但他家这两代的儿童存活率只有可怜的25%，12个孩子中只有3个活到成年。这个可怕的统计数据并非个例，歌德在1797年写下《魔法师学徒》时，估计德国儿童只有50%能活到15岁，[9]而且当时全球大多数地区的情况大概也是如此。[10]到2020年，全球儿童有95.6%能活到15岁，[11]这个数据在德国更是高达99.5%。[12]之所以能有这项重大的成就，当然是因为收集、分析和共享了关于血型等要素的大批医学数据。所以就这个案例而言，天真的信息观其实说得没错。

然而，天真的信息观并未见到事物的全貌，现代历史可不只是儿童死亡率降低而已。在近几个世代里，信息生产的数量与速度都经历了前所未有的最大增长。现在任何一部智能手机储存的信息量都能超越古代的整座亚历山大图书馆，[13]还能让用户实时与世界各地几十亿人建立联系。然而，随着这些信息以惊人的速度传播，人类却比过去任何时候都更接近自我毁灭。

人类坐拥大量数据（或许也正是这个原因），却还是在不断向大气排放温室气体，污染河海，砍伐森林，破坏栖息地，让无数物种灭绝，甚至还危及自己这个物种的生态基础。人类还在生产着越来越强大的大规模杀伤性武器，从热核弹到末日病毒，无所不包。人类领导者的手中并不是没有关于这些危险的信息，但他们非但没去合作寻找解决方案，反而让大家越来越接近一场全球战争。

这个时候，坐拥更多信息是会让事情变好还是变得更糟，我们很快就会知道。目前，许多企业与政府都在争先恐后地研发人类历史上最强大的信息技术——人工智能。一些知名企业家，比如美国投资人马克·安德森，相信人工智能最后能够解决人类所有的问题。2023年6月6日，安德森发表了《为何人工智能能拯救世界》（Why AI Will Save the World）一文，文中充满了大胆的言论，比如，“我要告诉大家这项重要的好消息：人工智能非但不会毁灭世界，而且还可能拯救世界”“人工智能能让我们关心的一切变得更好”。他最后总结道：“人工智能的发展与普及，非但不是我们该担心的风险，反而是我们对自己、对孩子、对未来该承担的道德义务。”[14]

雷·库兹韦尔也同意这种说法，他在《奇点已更为临近》一书中表示：“人工智能这项关键技术，将让人类得以应对各种迫在眉睫的挑战，包括克服疾病、贫穷、环境退化，以及人类的所有弱点。而我们就该负起道德上的责任，实现新技术的承诺。”库兹韦尔很清楚这项技术的潜在危险，也对这些危险进行了详尽的分析，但他相信这些危险都可以被成功化解。[15]

但其他人就没那么相信了。除了哲学家与社会科学家，许多重要的人工智能专家与企业家（例如约书亚·本吉奥、杰弗里·辛顿、山姆·奥特曼、埃隆·马斯克、穆斯塔法·苏莱曼）都警告公众：人工智能可能会摧毁人类文明。[16]本吉奥、辛顿与许多其他专家在2024年共同撰写的一篇文章中指出：“不受控制的人工智能发展，最后可能造成大规模的生命损失与生物圈伤害，以及人类的边缘化甚至灭绝。”[17]一项2023年的研究调查了2778名人工智能研究者，结果显示，有超过1/3的人认为，先进的人工智能有至少10%的可能会造成等同于人类灭绝一样可怕的后果。[18]2023年，包括中国、美国与英国在内的近30个国家和欧盟签署了关于人工智能的《布莱切利宣言》，其中就承认：“这些人工智能模型所具备的最重要的功能可能会造成严重的甚至是灾难性的伤害，无论是有意的还是无意的。”[19]虽然以上使用的是这种仿佛描述世界末日的语词，但专家与政府并不是让人联想到那些好莱坞电影的画面，好像有机器人造反，在街上奔跑射杀人类。这种情节一来实在不太可能发生，二来只会让人们忽略真正的危险。专家真正要警告的是另外两种情况。

第一，人工智能的力量可能会大幅加剧人类既有的冲突，让人类形成内斗。正如20世纪冷战时期的铁幕分隔出几个彼此敌对的势力，21世纪的硅幕（不再是铁丝网，而是由硅基芯片和计算机代码组成的）也可能区隔出不同的敌对势力，引发一场新的全球冲突。这场人工智能军备竞赛将会制造出更具破坏性的武器，于是即使只是一个小小的火花，也可能引发灾难性的大火。

第二，硅幕所分隔的或许不是彼此敌对的人类，而是一边为所有人类，另一边为我们新的人工智能霸主。不论在哪里生活，我们都可能被一张看不透的算法大网束缚，控制着我们的生活，重塑着我们的政治与文化，甚至是去改造我们的身体与思想，但人类却再也无法理解这些控制着我们的力量，更别说加以阻止了。如果21世纪真会有某个极权主义网络成功征服世界，其背后的掌控者可能并不是人类的独裁者，而是某种非人类智慧。有些人以为，如果人类将会迎来极权主义噩梦，主要来源应该是俄罗斯或后民主时代的美国等国，但这是对极权主义威胁的一种误解。事实上，不管是俄罗斯人、美国人还是其他人，真正面对的可能是由非人类智慧引发的极权威胁。

有鉴于这种危险的严重性，人工智能应该引起全人类的共同关注。虽然不是每个人都能成为人工智能专家，但我们都该知道，人工智能是历史上第一个能够自行做决策、创造新想法的技术。人类过去的所有发明，都只是在为人类赋予更强大的力量：过去的新工具无论多么强大，使用的决定权都握在人类手中。刀和炸弹并不会决定要杀死谁，它们只是不会思考的工具，没有处理信息、做出独立决策时所必需的智能。相较之下，人工智能能够自行处理信息，因此也就能够代替人类做出决策。人工智能不是工具，而是能够做出决策的行为者。

由于能够掌握信息，人工智能就能在各种领域独立产生新的想法，从音乐到医学无所不包。在过去，留声机能播放人类谱写的音乐，显微镜能显现人体细胞的秘密，但留声机无法谱写新的乐曲，显微镜也无法合成新的药物。但人工智能能够自行创造艺术，找出新的科学发现。接下来的几十年里，人工智能甚至可能创造出新的生命形式，方式可能是编写遗传密码，也可能是发明某种非生物的代码，从而赋予非生物实体生命。

当下，就算这场人工智能革命还在萌芽阶段，计算机也做出了各种影响人类的决定：要不要核准某人的贷款，要不要雇用某人来工作，要不要把某人送进监狱。这种趋势只会愈演愈烈、越来越快，让我们越来越难以掌控自己的生活。我们真的能相信计算机算法会做出明智的决定，并创造一个更美好的世界吗？这个赌注可比相信魔法扫帚会打水要冒更大的风险，而且这里赌上的不只是人类的生命。人工智能不但可能改变人类这个物种的历史进程，还可能改变所有生命形式的演化历程。

信息成为一种武器

我在2016年出版了《未来简史》，这本书指出各种新信息技术对人类造成的一些危险。书中认为，历史真正的主角一直都是信息，而非智人，而且科学家已经越来越懂得采用信息流的观点，除了用来看历史，也能用来看生物学、政治学和经济学。不论是动物、国家还是市场，都可以算是信息的网络，都会从环境中吸收资料数据，据以做出决策，进而又释放出更多资料数据。这本书也发出警告，虽然我们都希望随着信息技术的改进而为人类带来健康、快乐和力量，但事实上，信息技术得到提升之后，反而可能让人类失去力量，同时损害人类的身心健康。《未来简史》还假设，人类要是再不小心，就可能像泥土落入滚滚河流，直接消融在信息的洪流之中；同时放眼万事万物，人类只不过是宇宙数据流里的一个小小涟漪。

自《未来简史》出版以来，事物发展变化的速度不断加快，权力也确实已经从人类转到了算法手中。许多在2016年听起来还像是科幻小说的场景，比如算法能够创造艺术、假装成人类、会做出让人一辈子受到重大影响的决定、比我们更了解我们自己，在2024年都已经成为现实。

自2016年以来，还有许多事也发生了变化。生态危机加剧，国际紧张局势升温，而一波民粹主义浪潮甚至让全球最强大的几个民主政体也为之动摇。民粹主义也对天真的信息观造成严重的挑战。不管是唐纳德·特朗普、巴西前总统雅伊尔·博索纳罗这样的民粹主义领导人，还是像匿名者Q[20]和反疫苗者[21]这样的民粹主义运动与阴谋论者，都认为有些传统机构制度只是声称自己在收集信息、找寻真理与真相，以此取得权力，但其实都是在说谎。在他们看来，那些官僚、法官、医生、主流记者和学术专家就是一个精英阴谋集团，他们对真相没有半点兴趣，总在故意传播虚假信息，牺牲“人民”的利益来谋取自己的特权。像特朗普这类政治人物以及匿名者Q这类运动的崛起，有着21世纪10年代末期美国所特有的政治背景。但如果说到民粹主义作为一种反建制的世界观，其实早在特朗普之前便已登场，而且与过去和未来的许多情景息息相关。一言以蔽之，在民粹主义者眼里，信息就是一种武器。[22]

更极端的民粹主义会认为世上根本没有什么客观真理，每个人都有自己的真理，并想以此来压倒对手。这种世界观认为，只有权力才是唯一的现实。所有的社会互动都是权力斗争，人类真正感兴趣的也唯有权力。声称自己对其他事物（比如真理或正义）感兴趣，只是用来取得权力的策略。无论何时何地，当民粹主义成功地让人们觉得信息就是一种武器而进行传播时，语言本身就会受到损害。不论是“事实”这样的名词，还是“准确的”“真实的”这样的形容词，都会变得语义模糊，似乎无法指向一个共同的客观现实。这种时候，只要一谈到“事实”或“真相”，就会引起一部分人质疑：“你说的是谁的事实、谁的真相？”

但这里应该强调，这种重视权力、对信息持高度怀疑态度的信息观其实由来已久，绝不是反疫苗者、地平论者[23]以及博索纳罗或特朗普支持者等人的发明。早在2016年之前，有人就已经提出了类似的观点，而且有些还是史上最聪明的一群人。[24]比如在20世纪末，就有米歇尔·福柯和爱德华·萨义德这样的左翼知识分子认为，医院与大学这样的科学机构不是为了追求什么永恒客观的真理，而是利用权力来决定什么是真理，为资本主义与殖民主义精英服务。这些激进的批评者甚至有时候会认为，“科学事实”也只是资本主义或殖民主义的“话语”，当权者永远不会真正对真理与真相感兴趣，也绝不能相信这些人会承认并改正自己的错误。[25]

左翼革命派的思想路线可以追溯到马克思。1848年的《共产党宣言》就指出：“至今所有一切社会的历史都是阶级斗争的历史。自由民和奴隶，贵族和平民，地主和农奴，行会师傅和帮工，简短些说，压迫者和被压迫者，始终处于相互对抗的地位，进行不断的，有时隐蔽，有时公开的斗争。”[26]这种对历史的二元诠释意味着，人类的每一次互动都是压迫者与被压迫者之间的权力斗争。这样一来，某人说了某句话，最重要的问题不是说的内容是什么、说的是不是事实，而是这句话是谁说的、他为谁的特权服务。

当然，像特朗普和博索纳罗这样的右翼民粹主义者不太可能认真读过福柯或马克思的著作，而且他们也表现出一副强烈反对马克思主义的样子。至于他们在税收与福利等领域所提出的政策也看不出半点儿马克思主义。然而讲到社会与信息，他们的基本观点却出人意料地雷同，同样将所有人类之间的互动视为压迫者与被压迫者之间的斗争。比如，特朗普在2017年的就职演说中就宣称：“我们国家首都的一小群人攫取了政府的好处，而人民却承担了代价。”[27]这种言论正是民粹主义的代表，政治学家卡斯·穆德认为民粹主义就是一种“意识形态，认为社会最终会被分成两个内部同质而互相对立的群体，即‘洁净的人民’与‘腐败的精英’”[28]。正如马克思主义者总在声称的，媒体是资产阶级的喉舌，大学等科学机构散布虚假信息，是为了延续资本主义的控制；民粹主义则是指责这些机构以牺牲“人民”的利益为代价，促进“腐败精英”的利益。

但就像前几个世代的激进反建制运动，如今的民粹主义同样有逻辑不连贯的问题。如果权力是唯一的现实，信息也只是武器，那这对民粹主义本身意味着什么呢？他们是不是一心只想夺权，是不是也总在对我们说谎以骗取权力？

面对这个难题，民粹主义试着用两种方法来解决。有些民粹主义运动声称自己坚持现代科学的理想，恪守经验主义对一切抱持怀疑态度的传统。他们告诉公众：你们永远不该相信任何机构制度或权威，包括那些自封的民粹主义政党与政治人物。相反，你们应该自己去研究，只相信自己直接观察到的东西。[29]这种激进的经验主义立场认为，虽然我们确实无法永远相信政党、法院、报纸、大学这些大型机构制度，但个人要是足够努力，还是可以找出真相的。

这种方法或许听起来很科学，也能吸引那些个性自由奔放的人，但还是有个问题无法解决：要是真这么做，人类社群怎样才能真正合作，比如打造出医疗保健系统或是通过环境法规？这些目标的背后都需要有大规模的组织制度配合才行。如果只有一个人，难道他真的可能完成所有必要的研究，确定地球气候是否正在变暖，并找出可行的应对措施？如果只有一个人，他怎么收集世界各地的气候数据，更不用说取得过去几个世纪的可靠记录了。只相信“自己的研究”可能乍听之下很科学，但其实这等于相信世界上没有客观真理。我们在本书第四章就会看到，科学绝不是一种个人的追求，而是机构制度的合作。

民粹主义提出的另一种解决方法，是放弃现代科学通过“研究”寻找真相的理想，转而依赖神启或神秘主义。基督教、伊斯兰教、印度教等传统宗教，常常把人类描绘成不值得信任、渴求权力的生物，唯有依靠某些神性智慧的介入，才能了解真理与真相。在21世纪10年代到20年代初，从巴西到土耳其，从美国到印度，各地的民粹主义政党都与这类传统宗教牵起了手，一方面彻底质疑现代的机构制度，另一方面却全然深信古代的经文典籍。这些民粹主义者声称，你在《纽约时报》《科学》报刊上读到的文章只是精英主义者用来取得权力的策略，但你在《圣经》《吠陀经》上读到的内容则是绝对真理。[30]

这种解决方法的另一种形式则是呼吁公众信赖像特朗普或博索纳罗这样的魅力领袖。他们的支持者将这些领袖描绘成上帝的使者，[31]或者说他们和“人民”有着某种神秘的联系。如果是一般政客，他们就会对人民说谎，只为了获得自己的权力；如果是魅力领袖，他们则成了人民的代言人，非但不会出错，还会揭露一切谎言。[32]所以，民粹主义反复出现的悖论之一，就是一开始的时候总在警告大家，所有人类精英都是为了争权夺利，十分危险，但常常到头来又要求人民把所有权力都交给某位充满野心的人。

第五章会更深入地探讨民粹主义，此处我想强调的一点是，人类目前正在面临生态崩溃、全球战争、技术失控等生存挑战，但民粹主义却在此时侵蚀着我们对大型机构制度与国际合作的信任。民粹主义者不相信复杂的人类机构制度，他们的建议就像法厄同神话与《魔法师学徒》给我们的启示一样：“相信会有神祇或伟大的魔法师介入，让一切恢复正常。”如果我们接受了这种建议，从短期来看，控制我们的可能就是那些对权力欲望旺盛而且是其中最糟糕的一群人，从长期来看，控制我们的可能就是新的人工智能霸主。还有一种可能，随着地球变得不再适合人类生存，我们会发现自己根本无处可去。

我们如果不想把权力交给某个魅力领袖或是高深莫测的人工智能，首先就得更加了解“信息”究竟是什么，了解信息如何协助建立起人类网络，了解信息与真理、真相以及与权力的关系。民粹主义的正确之处在于对天真的信息观抱持怀疑态度，但偏激之处则在于认为只有权力是唯一的现实，以及信息永远就是一种武器。事实是，信息既不能说肯定能带来真理与真相，但它也不只是一种武器。在这两种极端之间其实还有足够的空间，能让我们以更细致也更充满希望的观点来看待人类的信息网络，看待人类明智地运用权力的可能。本书就是希望能探索这样的中间立场。

前方的道路

本书第一部分将会概述人类信息网络的历史发展进程。这里并不是要按照世纪的进展，全面讨论文字、印刷术、无线电等信息技术，而是希望通过研究几个范例，探讨各个时代人们在建立信息网络时所面临的关键困境，并研究了当时解决这些困境不同的答案怎样塑造出截然不同的人类社会。有些冲突的成因，我们一般会认为是意识形态或政治上的不同，但实际上往往是信息网络的类型不同。

在第一部分，我最先考察的是对于大规模人类信息网络至关重要的两个概念：神话故事和官僚制度。在第二章与第三章，我描述了大规模信息网络（从古代王国到现代国家）是如何同时有赖于神话编造者与官僚制度的。举例来说，《圣经》中的故事当然对基督教会至关重要，但要是没有教会的官僚来策划、编辑和传播这些故事，《圣经》也不会有这样的地位。每个人际网络都会面临一个困境，那就是神话编造者与官僚制度常常会往不同的方向发展。各种机构制度与社会的定义，常常取决于它们如何在神话编造者与官僚制度的需求冲突之间达到平衡。例如，基督教就分裂成了天主教和新教等不同的教会，不同的教会正是在神话故事与官僚制度之间取得了不同的平衡。

第四章的重点是谈论错误信息的问题，以及维持各种自我修正机制（例如独立司法、同行评议期刊）的好处与坏处。这一章将比较不同的机构制度：一类自我修正机制较弱，比如天主教会；另一类自我修正机制较强，比如科学学科。如果自我修正机制较弱，有时候如早期现代欧洲猎巫这样的历史灾难就会出现；但如果自我修正机制较强，有时候它则会从内部破坏网络的稳定性。如果从延续、传播与权力的角度来看，天主教会可以说是人类历史上最成功的机构，尽管其自我修正机制相对较弱（但这或许也是促成其成功的原因）。

在讨论了神话故事与官僚制度的角色，也比较了自我修正机制强与弱的影响之后，第五章会以另一种对比来结束第一部分的历史讨论：分布式信息网络和集中式信息网络。民主制度会让信息沿着许多独立渠道自由流动，而极权制度则是将所有信息集中在一个核心枢纽，两者各有优劣。谈到美国和苏联等不同的政治体系，如果从信息流的角度来切入，就能解释为何它们有着不同的发展轨迹。

这本书的历史部分对于我们理解当下和展望未来至关重要。人工智能的兴起可以说是历史上最大的一场信息革命。但要真正理解这场革命，就必须与过去的信息革命做比较。历史真正研究的并不是“过去”，而是“变化”。历史能告诉我们什么是不变的、什么是变化的，以及事物又是如何变化的。这不仅与信息革命，而且与其他类型的历史变革都息息相关。因此，如果能了解过去《圣经》如何一步一步地成为绝对正确的经典，我们就能从中得到宝贵的见解，来洞察当今的人工智能是如何号称绝对不会有误的。同样，研究近现代的猎巫行动和苏联的农业集体化运动，也能提供一个严正的警告，让我们知道如果赋予人工智能更大的权力来掌控21世纪的社会，可能会出现怎样的问题。深入了解历史至关重要，因为它能让我们理解人工智能究竟有哪些是新颖的内容，人工智能与印刷术及无线电广播技术有什么根本差异，以及如果未来出现人工智能独裁，其与过去出现的所有独裁形式又有哪些不同。

本书并不是说研究过去就能预测未来。我后面还会反复强调，历史不是确定的，未来将由我们所有人在未来几年所做的选择而塑造。我写这本书全部的意义在于，希望我们通过做出明智的选择，防止最糟糕的结果。如果未来真的无法改变，还去讨论未来岂不是浪费时间？

以第一部分的历史调查为基础，本书第二部分“非生物网络”讨论的是人类如今正在打造的新信息网络，重点关注人工智能兴起的政治意义。第六章到第八章讨论了世界各地近些年发生的例子（比如，2016—2017年社交媒体算法如何在缅甸煽动种族冲突），以解释人工智能与过去所有信息技术的不同之处。之所以例子大多取自21世纪10年代，而不是21世纪20年代，是因为我们对21世纪10年代的事件已经有了一些历史性的观点。

第二部分提出的论点认为，人类正在创造一个全新的信息网络，却从来没好好想想这有何影响。这里的重点在于，这是一种从生物到非生物信息网络的转变。过去的罗马帝国、天主教会与苏联，都是依靠碳基的人脑来处理信息、做出决策，但主宰新信息网络的硅基计算机的运作方式截然不同。过去，碳基的神经元摆脱不了有机生物化学的种种限制，而无论如何，硅基芯片都能轻松摆脱这些限制。所以，硅基芯片能创造出永远不用睡觉的间谍、永远不会遗忘的金融家和永远不会死去的暴君。这会让社会、经济与政治发生怎样的改变？

本书的第三部分“计算机政治学”探讨了不同类型的社会如何应对非生物信息网络的威胁与承诺。像我们这样的碳基生命，还有没有机会理解和掌控新的信息网络？如上所述，历史不是确定的，至少在未来几年里，我们智人仍然有能力塑造我们的未来。

所以，第九章讨论的是民主国家如何处理非生物信息网络的兴起。举例来说，如果整个金融系统越来越受到人工智能的控制，金钱的意义也开始依赖人类无法理解的算法，那么有着血肉之躯的政治人物如何做出金融决策？如果我们不再能判断自己谈话的对象是真人还是伪装成人类的聊天机器人程序，那么民主国家怎样保持对任何议题（不管是金融还是性别）的公开对话？

第十章则探讨了非生物信息网络可能如何影响极权主义。虽然独裁者很乐意摆脱所有的公开对话，但对人工智能也心存恐惧。独裁政权要想站稳脚跟，就得恐吓和审查自己的代理人。但人类独裁者又怎么可能去恐吓人工智能、去审查人工智能高深莫测的处理程序，或者避免人工智能起身夺权？

最后的第十一章谈论的是这套新信息网络如何左右全球民主与极权社会之间的权力平衡。人工智能是不是一定会让天平倒向某一边？世界会不会分裂成彼此敌对的集团，所有人都因而成为某种失控的人工智能的猎物？或者，人类能不能团结起来捍卫共同的利益？

但在开始谈信息网络的过去、现在和可能的未来之前，我们得先谈谈一个看似简单的问题——信息究竟是什么。

[1] Sean McMeekin, Stalin’s War: A New History of World War II (New York: Basic Books, 2021).

[2] “Reagan Urges ‘Risk’ on Gorbachev: Soviet Leader May Be Only Hope for Change, He Says,”Los Angeles Times, June 13, 1989, www.latimes.com/archives/la-xpm-1989-06-13mn-2300-story.html.

[3] White House, “Remarks by President Barack Obama at Town Hall Meeting with Future Chinese Leaders,” Office of the Press Secretary, Nov. 16, 2009, obamawhitehouse.archives.gov/the-press-office/remarks-president-barack-obama-town-hall-meeting-with-future-chinese-leaders.

[4] Evgeny Morozov，The Net Delusion：The Dark Side of Internet Freedom（New York：Public Affairs，2012）.

[5] Christian Fuchs，“An Alternative View of Privacy on Facebook，”Information 2，no. 1（2011）：140–65.

[6] Ray Kurzweil, The Singularity Is Nearer: When We Merge with AI (London: The Bodley Head, 2024), 121–23.

[7] Sigrid Damm, Cornelia Goethe (Berlin: Insel, 1988), 17–18; Dagmar von Gersdorff,Goethes Mutter (Stuttgart: Hermann Bohlaus Nachfolger Weimar, 2004); Johann Wolfgang von Goethe, Goethes Leben von Tag zu Tag: Eine dokumentarische Chronik (Dusseldorf:Artemis, 1982), 1:1749–75.

[8] Stephan Oswald, Im Schatten des Vaters. August von Goethe (Munich: C. H. Beck, 2023);Rainer Holm-Hadulla, Goethe’s Path to Creativity: A Psycho-biography of the Eminent Politician, Scientist, and Poet (New York: Routledge, 2018); Lisbet Koerner,“Goethe’s Botany: Lessons of a Feminine Science,”History of Science Society 84, no. 3(1993): 470–95; Alvin Zipursky, Vinod K. Bhutani, and Isaac Odame, “Rhesus Disease: A Global Prevention Strategy,”Lancet Child and Adolescent Health 2, no. 7 (2018): 536–42;John Queenan, “Overview: The Fetus as a Patient: The Origin of the Specialty,” in Fetal Research and Applications: A Conference Summary (Washington, D.C.: National Academies Press, 1994), accessed Jan. 4, 2024, www.ncbi.nlm.nih.gov/books/NBK231999/.

[9] John Knodel, “Two and a Half Centuries of Demographic History in a Bavarian Village,”Population Studies 24, no. 3 (1970): 353–76.

[10] Saloni Dattani et al., “Child and Infant Mortality,” Our World in Data, 2023, accessed Jan. 3, 2024, ourworldindata.org/child-mortality#mortality-in-the-past-around-half-died-as-children.

[11] Ibid..

[12] “Most Recent Stillbirth, Child, and Adolescent Mortality Estimates,” UN Inter-agency Group for Child Mortality Estimation, accessed Jan. 3, 2024, childmortality.org/data/Germany.

[13] 根据一项估计，亚历山大图书馆的信息量约为1000亿比特，约12.5 GB（吉字节）。参见：Douglas S. Robertson，“The Information Revolution，”Communication Research 17，no. 2（1990）：235–54.截至2020年，每部安卓手机的平均容量为96 GB。参见：Brady Wang，“Average Smartphone NAND Flash Capacity Crossed 100GB in 2020，” Counterpoint Research，March 30，2021，www.counterpointresearch.com/average-smartphone-nand-flash-capacity-crossed-100gb-2020/.

[14] Marc Andreessen, “Why AI Will Save the World,” Andreessen Horowitz, June 6, 2023, a16z.com/ai-will-save-the-world/.

[15] Ray Kurzweil, The Singularity Is Nearer: When We Merge with AI (London: The Bodley Head, 2024), 285.

[16] Andy McKenzie, “Transcript of Sam Altman’s Interview Touching on AI Safety,”LessWrong , Jan. 21, 2023, www.lesswrong.com/posts/PTzsEQXkCfig9A6AS/transcript-of-sam-altman-s-interview-touching-on-ai-safety; Ian Hogarth, “We Must Slow Down the Race to God-Like AI,”Financial Times, April 13, 2023, www.ft.com/content/03895dc4a3b7-481e-95cc-336a524f2ac2; “Pause Giant AI Experiments: An Open Letter,” Future of Life Institute, March 22, 2023, futureoflife.org/open-letter/pause-giant-ai-experiments/;Cade Metz, “‘The Godfather of AI’ Quits Google and Warns of Danger,”New York Times,May 1, 2023, www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits hinton.html; Mustafa Suleyman, The Coming Wave: Technology, Power, and the Twenty First Century’s Greatest Dilemma, with Michael Bhaskar (New York: Crown, 2023); Walter Isaacson，Elon Musk（London：Simon & Schuster，2023）.

[17] Yoshua Bengio et al., “Managing AI Risks in an Era of Rapid Progress,”Science （即将发表）.

[18] Katja Grace et al., “Thousands of AI Authors on the Future of AI,”（预印本，2024年交稿）,https://arxiv.org/abs/2401.02843.

[19] “The Bletchley Declaration by Countries Attending the AI Safety Summit, 1–2 November 2023,” Gov.UK, Nov. 1 2023, www.gov.uk/government/publications/ai-safety- summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the ai-safety-summit-1-2-november-2023.

[20] “匿名者Q”组织（QAnon）是一个源自互联网的阴谋论集合，其影响力主要集中在美国。其核心阴谋论是美国表面的政府内部存在一个“深层政府”，它由犹太金融家、资本巨鳄、好莱坞精英等构成的集团把持。总的来说，这是一个充满极端和虚假信息的阴谋论集合（本书第六章对该事件有详细论述）。——编者注

[21] 反疫苗者（anti-vaxxer），是指那些反对或拒绝接种疫苗的人群。他们普遍对疫苗持有怀疑态度，认为疫苗有害，或者认为制药公司和其他相关部门掩盖了疫苗的潜在风险。——编者注

[22] Jan-Werner Müller, What Is Populism ? (Philadelphia: University of Pennsylvania Press, 2016).

[23] 地平论者（flat-earther）是一个坚持认为地球是平的而非球形的群体，其观点在科学上已被证明是错误的。但他们所代表的怀疑精神和独立思考的态度在一定程度上也促进了科学的发展和进步。——编者注

[24] 在柏拉图的《理想国》中，色拉叙马霍斯、格劳孔与阿德曼托斯认为，所有人（特别是政治人物、法官与公仆）都只在意个人的利益，为此不惜欺瞒和说谎。他们挑战苏格拉底，问他怎么反驳“外貌凌越真理”以及“正义只是强者的利益”。类似的观点在古印度的经典著作《政事论》中也被提及，并偶尔得到支持。在中国古代法家思想家的著作中，如韩非子和商鞅，也有类似的讨论。在早期现代欧洲思想家的著作中，如马基雅维利和霍布斯，也有相关的论述。参见：Roger Boesche，The First Great Political Realist：Kautilya and His “Arthashastra”（Lanham，Md.：Lexington Books，2002）; Shang Yang,The Book of Lord Shang: Apologetics of State Power in Early China, trans. Yuri Pines (New York: Columbia University Press, 2017).

[25] Ulises A. Mejias and Nick Couldry, Data Grab: The New Colonialism of Big Tech and How to Fight Back (London: Ebury, 2024); Michel Foucault, The Birth of the Clinic: An Archaeology of Medical Perception (New York: Vintage Books, 1975); Michel Foucault,The History of Sexuality (New York: Vintage Books, 1990); Edward W. Said, Orientalism(New York: Vintage Books, 1994); Aníbal Quijano, “Coloniality and Modernity/Rationality,” Cultural Studies 21, no. 2–3 (2007): 168–78; Sylvia Wynter, “Unsettling the Coloniality of Being-Power-Truth-Freedom Toward the Human, After Man, Its Overrepresentation — an Argument,”New Centennial Review 3，no. 3（2003）：257–337.更深入的讨论请参见：Francis Fukuyama，Liberalism and Its Discontents（London：Profile Books，2022）.

[26] 卡·马克思，弗·恩格斯．共产党宣言[M]//马克思恩格斯全集：第四卷。中共中央马克思恩格斯列宁斯大林著作编译局，译.1版。北京：人民出版社，1958:465-466.

[27] Donald J. Trump, Inaugural Address, Jan. 20, 2017, American Presidency Project, www.presidency.ucsb.edu/node/320188.

[28] Cas Mudde, “The Populist Zeitgeist,”Government and Opposition 39, no. 3 (2004): 541–63.

[29] Sedona Chinn and Ariel Hasell, “Support for ‘Doing Your Own Research’ Is Associated with COVID-19 Misperceptions and Scientific Mistrust,”Misinformation Review, June 12, 2023,misinforeview.hks.harvard.edu/article/support-for-doing-your-own-research-is-associated-with-covid-19-misperceptions-and-scientific-mistrust/ .

[30] 参见：“God's Enclosed Flat Earth Investigation — Full Documentary [HD]，” YouTube，www.youtube.com/watch?v=J6CPrGHpmMs, 引自“Disinformation and Echo Chambers: How Disinformation Circulates on Social Media Through Identity-Driven Controversies,”Journal of Public Policy and Marketing 42, no. 1 (2023): 18–35.

[31] 参见：David Klepper，“Trump Arrest Prompts Jesus Comparisons：'Spiritual Warfare，'” Associated Press，April 6，2023，apnews.com/article/donald-trump-arraignment-jesus-christ-conspiracy-theory-670c45bd71b3466dcd6e8e188badcd1d; Katy Watson, “Brazil Election: ‘We’ll Vote for Bolsonaro Because He Is God,’” BBC, Sept. 28, 2022, www.bbc.com/news/world-latin-america-62929581.

[32] Oliver Hahl, Minjae Kim, and Ezra W. Zuckerman Sivan, “The Authentic Appeal of the Lying Demagogue: Proclaiming the Deeper Truth About Political Illegitimacy,”American Sociological Review 83, no. 1 (2018): 1–33.