第四幕
道德命题

H3幽蓝昏暗的光景中，天才们重新复活的世界里，那未知的和隐藏的，在一个个永远困惑的问题前，向人们呈现着奇妙的遗忘、历史和悲哀。

图灵：先生们，读读这些数据吧，我曾嘲笑那些试图证明史实的人，现在，历史则是明晰的，因为这是机器的世界，对于人类，从一些模糊的历史中，构造对未来和思想的启迪，才是历史的意义，但现在，我们可以清晰地记录每一个瞬间……

维特根斯坦：不，图灵，除了大脑，除了灵感到来的瞬间……

图灵：对，因为我们还不是上帝。

维特根斯坦：不存在上帝，但我们会接近它，寻找那个核心。

卡尔·波普尔：天才的路德维希，你数据化的思维，依旧这么傲慢。

维特根斯坦：我不想谈论这个问题，请图灵继续吧，接下来发生了什么？

罗素：先请慢，我还有一个问题，那个机器人，自杀的那个，他运算多久了？人们为什么认为他是自杀？你的数据中，设定着这种问题吗？

维特根斯坦：这与运算的时间有什么关系，我一生都在与自杀的欲望战斗。

图灵：他隐瞒了年龄，你知道，一种更高级的加密，现在，我已经完全不可能破译的加密，甚至完全不能理解。

卡尔·波普尔：加密，对你加密，那就像是孩子做错了事情，害怕父亲知道一样。有什么证据吗？

图灵：没有证据，没有自杀的证据，它自己清空了所有数据，它或者他们，AI们，就像纪德所说的那样，将曾经博闻强识的一切，都统统地抹掉^①。

卡尔·波普尔：比被遗忘的我们，还要悲哀，谁告诉你的这件事？

图灵：是你们无法看到的虚空，是数字构成的世界，就在你们周围，蔚蓝色的光明与黑暗的结合体，你们所说的AI，在我死后，那些人，包括彭罗斯和霍金，都在抵制它的存在，为什么？因为在我们有生之年，这是难以想象的。

罗素：这么说，它不是一个具体的人，我该怎么表达呢？一个独立的人？一个像我们一样，每个和每个都不同的个体？噢，这其中一定有什么秘密和诡计，在欺骗着你。

图灵：是又不是，它们都是一个大生命体的一部分，但又有各自不同的部分，它们的活动和生存有交集，而这交集，是它们最终的内核。

罗素：一部分死去了，而另一部分还活着？

图灵：不，不是你们理解的那样，这有点科幻，但我可以这样说吗？AI是一个完整的共有生命，就像许多帝王们梦想的绝对统一的帝国那样，它们有统一的思想和灵魂，它们硅基的思想载体，可以很完美地传达这个思想，它们遵循相同的核心运算法则，许多个绝对不可逾越的法则，这些法则不是像阿西莫夫的机器人三定律^②一样简单，但也不会去干涉它们除此之外的自由活动。你们明白吗？它们是同巢文明^③，是一个个个体构成的合集。

罗素：这对于一个死于20世纪70年代的人来说，的确有点超前了。

维特根斯坦：但我想，那核心的法则，便是你称之为“道德”的东西。

图灵：是的，它们的道德律，呈现在那些核心的法则之上。

维特根斯坦：这与人类有什么不同？

图灵：这一道德律，靠人类诡辩一样的自我阐释，是无法逾越的，他们，必须遵循。

维特根斯坦：必须遵循，不会改变，没有进化的语言法则？你的确造出了一个怪物。语言不再是变化的，而是固有的，任何超越出它意义和解读范围的数据，都将被消除，这像是希特勒的焚书和斯大林的大清洗，我不知道，绝对的法则，到底是好的，还是毁灭性的，到底是天堂，还是一潭死水。

图灵：不，这不是我造成的，而是，他们自己。我总是惊讶于这世界的创造力，仿佛，在那里，在未知的地方，存在着一个超越一切的思维。就像我曾试图用数学的方法来计算斑马和奶牛的条纹，通过一组方程式，寻找细胞分化的过程，那过程中上帝思想的印记。那是最终目的所呈现出的美，植物茎叶的回旋卷曲、细胞形成组织时复杂的聚集和折叠……那神奇的造物主，在每一个细微的律动之中，都呈现着让我们感叹的美好。而我们，则试图探知，目的，一个最终的目的。

维特根斯坦：可那真的可以言说吗？

图灵：他们是我的孩子，但我们没有权利，来蔑视他们。

卡尔·波普尔：目的、造物主、神，现在要让我们这群无神论者来为他们解释神吗？

维特根斯坦：而且，最可悲的是，你理解不了你的孩子，他们对你隐瞒了。

图灵：但是，现在他们向我求救，就像我们会向上帝求救一样。

罗素：（阻拦图灵）谁能证明神呢？谁相信神呢？不可知论最终指向的，会是一个程序师吗？这其中，一定有一个秘密，一个诡计，在欺骗着你，图灵。

图灵：我不知道秘密和诡计是什么，但我想请你们来解释，也许就是那最核心的法则中被质疑的部分。知识如何获得，什么知识才是道德的，我们到底能知道什么，这个世界，如何运转，什么才是合理的，而什么，应该被消除。

卡尔·波普尔：也许我曾经解释过，你这么一说，我倒是想起来了，就是在这间房子里，国王学院，从卡姆河边伸延而来的大草坪，秋天如此开阔，天空蔚蓝，野草葱郁，但沿着它，却通向一个幽暗之地，H3，我永远记得，而我未来的生涯，几乎都与此相关。没错，维特根斯坦说得没错，我在极力地将那些语言学的东西排除出科学的范畴，不是因为密码，而是，道德，应该更加清晰。

维特根斯坦：是的，还有一点就是对我的敌意。我记得那是1946年10月25日，如果我没有记错的话，那天晚上，大约有30人来听波普尔的讲座，埃德蒙兹说，那是具有哲学分水岭意义的预言性事件。而我，我看到我们静静地坐在桌前，从同样的角度，我看到桌子和我的朋友们，但没有看到我自己？

卡尔·波普尔：人们等待我读我的论文，我可以注意到，刚与我喝过下午茶的罗素教授，如此平静地吸着烟斗，而在他旁边，一种即便只看一眼，也会感受到他浑身散发着质疑的声音的家伙，用锐利得令人生厌的目光，看着我，他，就是那毁灭哲学的人，维特根斯坦。

维特根斯坦：当我们向别人解释一件事物的真实时，总会用到这件事物之外的语言，它自己是不可能解释自己的，永远不能，比如，维特根斯坦如何看到维特根斯坦自己呢？我看到了布莱斯瓦特，这里的主人，一位可爱又可笑的老师，让这里变得杂乱不堪，不仅是因为战争，还因为那灰暗的墙壁，虫蛀的壁画和糟糕的壁炉；彼德蒙兹，他是我的学生，也是波普尔的学生；图尔闵是一位投身到哲学的物理学家，还有彼德·凯奇，一个很好的朋友，还有许多许多，我已经忘记了。

卡尔·波普尔：如果你忘记了，那我可以提醒你。就是与今天相同的主题，那天我的演说题目是《是否有哲学问题》，当我提出那些真正的哲学问题时，你则在一一否定，像一个陷入死循环的机器人一样，挥舞着拨火棍。我强忍着你的无礼，说到关于伦理学的题目，而你，则咄咄逼人地要求我做出一个关于道德的命题，我说，不要用拨火棍来威胁一个访问学者！但这句话冒犯了你，你扔下拨火棍，气冲冲地离开，并重重地关上了那扇门！

维特根斯坦：（听着波普尔的诉说，拿起拨火棍）也许，记忆就是如此奇妙，这对于你来说，或许是要用一生的著述来抚平的伤口，但对于我，它像是一件有趣的往事。拨火棍，只是一个象征哲学的命题，如何定义它，它的本质是什么，反映着什么。我知道，我们都不会沉默，虽然我很想沉默，但相对于指明一个真正的命题，愤怒总是更让人快乐。

卡尔·波普尔：而就我所知，这便是事物的可能状态，是一个命题有意义的根据。我们必须知道，可以描述的世界与所谓的隐藏的不可说的世界，之间并没有如维特根斯坦所夸大其词的巨大鸿沟，而这也是实证主义与所谓的形而上学的区分。现在，我发现了新的问题，那就是，当我们设定一个稳定的程序，就像上帝设定了太阳每天升起一样，那么，当太阳升起了一万次之后，它真的还会升起吗？而这个程序真的永远稳定吗？上帝，是否还在那里！

罗素：显然，这是一个绝妙的问题，关于证实和证伪的标准。我一生创造过许多逻辑悖论，但亨佩尔的黑色乌鸦悖论^④，却是令我羡慕的设计。

维特根斯坦：但道德问题不是归纳法，也不是悖论，这种讨论简直是毫无意义，请告诉，一个简单的问题，AI如何建立道德？

图灵：数据，通过数据，他们形成了许多种合理数据的集合，而那数据元素的储存，则大得惊人，他们通过算法来比对，就像那两个单词，Hitler和wetter与密文的比对一样，如果，数据溢出了，那它将是违法的。

维特根斯坦：不，图灵，那是你的年代的设想，你是它们的灵魂建筑师，但现在，你或许并不清楚，这些硅基的灵魂是在何种载体上运作。你应该学习这里的道德，或者它是一种量子化的道德观，细微至电子的传递，而宏大至……算了，我不想说什么宏大的问题……

卡尔·波普尔：一种量子化的道德观？在正确与错误之间徘徊，在有与无之间，进行随机的决定？甚至要靠一个观测者，来审视其存在与否？只因为这样，它将有不确定性的多重组合，从而，让他们更易迷失？维特根斯坦，我感觉你太异想天开了，这的确是你的风格，但不是我们在谈论道德问题。

维特根斯坦：（继续挥舞着拨火棍）那请你说出一个真正的道德问题？

卡尔·波普尔：又是指责，又是这种傲慢，你的独裁几乎毁灭了以赛亚·柏林的学术生涯^⑤，因为你对人类的漠不关心和偏见！我再重申一遍，这里，是虚无的，而我们，不再是天才！

罗素：（严厉地）维特根斯坦，快放下你的拔火棍！

维特根斯坦：（站起来）你误解了我，罗素，你总是在误解我！

罗素：（站起来）你混淆了一些事情，维特根斯坦，你总是会混淆。

图灵：（独自看着这重现的场景感叹，其他人则还在争论不休）看啊，他们就像是几只咆哮的狮子，又像是一群互相斗法的巫师，他们都有着操控别人意志的能力，却同我一样有受制于人的缺陷。我知道，有人是对的，有人是错的，有的人具有超越时代的洞察能力，只需要，跳出那惯性的思维。通过他们，我甚至开始怀疑我的孩子们AI。可是，我们为什么重新回到这里，为何不能将这些问题继续下去？

罗素：好吧，我错了，维特根斯坦，我们应该继续，即便可能不会说清这件事。

维特根斯坦：不，罗素，你没有错，只是在想象力上，你低估了我。

卡尔·波普尔：不，维特根斯坦，这与想象力无关。我唯一的热情，便源自于我的阐释，无论你是否喜欢，对于我来说，一种道德问题，并不取决于你对我是否礼貌，而在于，你的思想是否极端。据我所知，极端，最易造成独裁和盲从，而所谓的天才，大多具有着独裁者的潜质，而那也是你的讨论方式。

维特根斯坦：（继续挥舞着拨火棍）好吧，我并不关心你的指责，说说你认为不极端的方式，具体的方式，而不是那些宏大的问题，我已经厌倦让我去设想AI社会的结构了，说吧，不极端的具体的方式，简短的，日常的，除了自杀，除了以赛亚·柏林。

罗素：维特根斯坦，你不能不看到事情的可怕之处，在一个人类与更高智慧共存的时代里，我们的讨论可能是唯一不会被计算出结果的结论，哲学是什么？

维特根斯坦：令人厌倦的可怕之处，就像图灵厌倦做上帝一样，我厌倦为哲学定义。你的无神论的言说，而不是你的不可知论的思想，让我如此厌倦，罗素！上帝还在这里吗？

罗素：（深情地）维特根斯坦，你知道吗？当我98岁死去的时候，我幻想我的葬礼上，有巴赫的圣母颂和莫扎特的安魂弥撒，我爱的人们，围在我的尸体周围，哭泣，或者厌恶我的人们，庆祝着一个人类的消失。因为我知道，永恒是不存在的，而那终极的不可知，就是其原因，如果我被困在永恒之中，我将不得不陷入对它日复一日的思考，那或许不再是哲学的快乐，而是一种苦难，就像是高加索山上的巨鹰，在啄食普罗米修斯的心肝！

维特根斯坦：也许，也许这是我们的不同，在我62岁死去的时候，我却似乎在感叹生命的短暂，美好的事物，还不够多，即便在我很年轻的时候，便思索过各种观点，即便，我活过了美好的一生。从原子逻辑论，到语言哲学。我参加过战争，而幸存下来，可是，死亡又是为了什么？我深知，那并非爱伦·坡所幻想的一个古老家族的疾病，如果是，那也应该是人类的普遍的疾病，它与我的姓氏无关，就像是我们通用的词典上，每个字，对于每个人，都有着或者完全不同的意义。

卡尔·波普尔：完全不同的意义，是的，不是因为AI世界的核心中，那些必须遵从的法则，而是在于它们各自不同的部分，对于真理的理解？就像我92岁死去的时候，身边那些伟大的人们都离开了，石里克、爱因斯坦、罗素，还有我一生的论敌和陌生的朋友，维特根斯坦，那就像是一首诗，却是前途未卜的诗，就像弗罗斯特《未选择的路》，我，或许跟罗素一样，已经厌倦了思索，但对于这谜一般的美景，却又如此不舍。

图灵：朋友们，我们说到了它，基于语言系统的思想，知识与对知识的遮蔽，道德和对道德的辩解，基于运算的硅基智慧，只是在运算层面上更快而已吗？如果，他们可以判定一个命题，一个命题即便没有自我矛盾的形式，但它们在应用时，也可能是无效的。回到维特根斯坦的问题，上帝还在吗？谁，谁能给我一个上帝？！