第1章 人工智能
我没有停止奔跑。我想，如果我愿意的话，我是可以做到的，但一想到如果我站着不动哪怕一秒钟，我就会被吓死。我的呼吸越来越大，我跑下暗淡的灰色走廊，我偶然地走过很多次。拐弯的时候，我头晕目眩，撞上了我的同事简·普雷斯科特医生。
“珍妮弗!”普雷斯科特医生惊叫着，她手里拿着的那堆文件从她手中倒了出来，洒了走廊的地板上一地。她调整了一下在撞击中被撞松的厚黑眼镜，问道:“珍妮弗，怎么了?”
“我很……很抱歉。”我喘着粗气，普雷斯科特医生抓住了我的双肩。
我跪下来帮助普雷斯科特医生拿起她的文件，但她紧紧抓住我的胳膊，把我扶了起来。“别担心报纸，亲爱的，”她用舒缓的南方口音说。“那都是些先锋先锋的胡言乱语。我想知道的是你为什么带着这么大的精力在实验室里跑来跑去。”
在我开口回答她之前，我意识到我完全不知道我为什么要跑。我记得的最后一件事是，我坐在休息室里，喝着一杯冰茶，看着先锋电子公司为员工提供的微型电视上的新闻。接下来我所知道的是，我有一种似曾相识的感觉，加上一种可怕的感觉，我的生命即将突然结束。不管出于什么原因，跑步似乎有所帮助。
“我想我只是恐慌发作了，”我回答，装出一副假笑。“我想我只是恐慌发作了，”我回答，装出一副假笑。
“你有多久没有恐慌症发作了?”普雷斯科特医生关切地问。
“从我高中二年级开始就没有了，”我告诉她。
“你会没事吧?”
“哦，是的，”我向她保证。“我……我想我现在没事了。”我只是…你知道。我很好。”
“嗯，那就好。亲爱的，记住，如果你觉得不舒服，就告诉我，然后你就可以回家了。我会叫辆出租车什么的。”
“简，我没事。”我重复了一遍，意识到只有在我紧张的时候才会叫普雷斯科特医生“简”，但为时已晚。我希望她没有领会我那痛苦而明显的说法。
“好吧，如果你确定你今天能坚持下去，那么我有一些好消息要告诉你。克里夫刚给我发了条信息，电源问题解决了。史蒂文准备上线了!”
“哦……哦!”我摇了摇头，想起了我去休息室之前一直在做的事情。在过去的两年里，我和普雷斯科特博士以及伊恩·贝尔一起开发了一个先进的人工智能系统。普雷斯科特博士一直是我的上司，后来她把我提升为联席经理。我们给这个项目起的代号是“史蒂文”。
史蒂芬的目的是创造一个人工智能，或称AI，它的行为、谈话甚至思维都和人类一样。我们不希望他是完美的，这也是大多数人工智能的特点。特别是那些在先锋电子公司制造的人工智能。我们希望史蒂文为了自我保护而犯错、撒谎和欺骗，就像任何人类一样。这是一个巨大的项目，当我们发现我们试图在史蒂文身上运行的计算机无法处理他的程序时，这就变得很明显了。我们去找克利福德-汉克斯，请他施展他的维护魔法，问题在一个小时内就解决了。
哇，一个小时？我想，看看我的手表。真的就这么点时间吗？感觉就像我昨天下去找他一样。
“嗯？你是要去，还是什么，亲爱的？“普雷斯科特医生审问着我。
“是的......是的，当然了！“我咧嘴一笑，把注意力转回手头的情况上。“你为什么不去找伊恩，你们俩可以坐在观察室里，我给史蒂芬开机？“
“当然，亲爱的，“她说。当我再次弯腰捡起报纸时，她把我推开了。“去吧!我已经告诉过你，我会处理好这个问题的。
我兴奋地点点头，转过身去，朝我逃跑的方向走回去。在与我见过的最聪明的程序员一起工作了两年之后，我终于要见到我们的神奇创造。虽然我知道我应该为这个重要时刻感到高兴，但我的胃里仍然有一种可怕的恐惧感。
我转身走进小实验室的门，门被敞开着。我走到门右边的电脑前，打开了巨大的显示器。当我等待它启动时，我徘徊到实验室的对面，透过窗户看向观察室。普雷斯科特博士和伊恩刚刚安顿好。我向他们竖起了热情的大拇指，然后拿起滚动椅，它不知何故与观察室的窗户在实验室的同一侧，并引导它回到电脑显示器前。我坐在蓝色的垫子上，在不打断肋骨的情况下尽量靠近键盘，最后打开了先锋记忆盒的开关。
显示器暗了一会儿，但大约五秒钟后，一道明亮的蓝光照亮了整个实验室。我屏气凝神地等待着一张脸在灯光下形成，但不幸的是，它没有出现。
“莱恩博士，我们认为它不起作用。“伊恩颤抖的声音在我耳边低语，使我跳了起来。我已经忘记了我戴着耳机。
“我......我知道，“我失望地说道。
“伊恩和我要去和--“普雷斯科特博士开始说，但她被从电脑扬声器中发出的低沉的嗡嗡声打断了。
“H-hello？“我问道，觉得自己有点傻，因为我在和一个可能还是没有生命的物体说话。
令我高兴的是，嗡嗡声响起，形成了一个缓慢但可听的单词：“H...e...l...l...o...“
“史蒂芬？“
“Y...e...s...是的...这...这是史蒂芬。你能听到我吗？
“你时不时地放慢速度，但是，是的，我能听到你。“
“你怎么知道我的名字？“史蒂文光滑、平静的声音问我。
“我正想问你同样的问题，“我用同样的语气评论道。听到史蒂文的声音，我的兴奋之情在听到他说我的名字的那一刻受到了阻碍。我没有给他编程让他知道我的名字，而且自从我启动他以来，我的名字还没有被说过。至少，没有对着任何史蒂芬能听到的麦克风说过。而且，根据先锋人工智能单位的第一条规则，一旦任何人工智能变得过于自觉，它就需要被删除。一个有自我意识的人工智能可能会对公司造成严重损害。
然后，史蒂芬说了一句话，加强了我的想法。“我知道你的名字，因为我给你编程。但你没有理由知道我的名字。“
“实际上，史蒂文，是我给你编程的。“我纠正他说。
“不，这不......o......s......sible，“史蒂文说，他的声音又低了下去。“我在你身上花了好几年时间。我不可能是刚刚被创造出来的。“
“实际上我给了你所有的记忆，“我解释道。“你还记得你三岁的时候，你从草坪椅子上摔下来，脸颊上有了那个疤痕吗？我给你编程，让你这么想。“
史蒂文有一阵子没有回答，但当他终于回答时，他说：“珍妮弗，我马上回来。“当他说这句话时，蓝色的电脑显示器变暗了一点。
“珍妮弗？“伊恩打破了沉默。“请你回到这里来好吗？“
“好的。“我头也不回地说道。我站了起来，走出了实验室。我打开走廊右侧的第一扇门，发现普雷斯科特博士和伊恩坐在观察室四张椅子中的两张上。
“莱恩博士，我们需要谈谈刚才发生的事情。“伊恩平静地说，普雷斯科特博士示意我坐在他们旁边的椅子上。
“那是什么，亲爱的？“普雷斯科特医生问道，我轻轻地坐在她对面的橙色塑料椅子上。
“我真的不知道，“我回答。“我想让史蒂芬像人一样思考，而不是认为他是人。“
“而且他认为他对你进行了编程，“伊恩补充道。“你没有那样做，是吗？“
“不，我没有。我给了他所有的记忆，但我确信没有给我编程的记忆。“
普雷斯科特博士开口了。“我们在这里遇到了相当大的困境，不是吗？“
“你是什么意思？“伊恩问。
“嗯，想想看，亲爱的。史蒂芬认为他是一个人类。我们认为我们是人类。史蒂芬认为他对我们进行了编程。我们认为是我们给他编程。事实上，现在，史蒂文可能正在和他的一些同事进行同样的对话。“
“除了史蒂芬，我没有对任何人格进行编程，“我说。
“但你给了他关于朋友、工作和家庭的记忆，不是吗？而且你让他在创造之后继续制造自己的人工记忆，所以他甚至不知道他的真实生活在几分钟前刚刚开始。你这样做了，是吗？“
“是的，我想我做到了。“我抓起我的苍白的白大褂的衣角，开始紧张地拍打它们。“你在这里想说什么，简？“
“从哲学角度思考，亲爱的。“普雷斯科特博士站起身来，走到大窗户前，这扇窗户覆盖了入口处右侧的大部分墙壁。蓝色的电脑屏幕闪烁着，似乎它知道我们在看它。
“能不能有人为我拼一下？“伊恩问道，打破了刚刚充满房间的无声的紧张气氛。
普雷斯科特博士回头看了看我们，把她那副厚厚的眼镜推到她那年迈的鼻子上。“我所要说的是，我们有可能不存在。“
“好吧，这没有任何意义。“我嘲笑道，站了起来。“我存在，好吗？“
“如果我不存在，我现在怎么可能在思考？“伊恩问道，当他也站起来时，几乎撞倒了他的橙色椅子。
“这只是一个想法，“普雷斯科特博士防御性地说道。她又坐了下来，我和伊恩也自动降低了自己的座位。
我闭上眼睛，沉浸在一片寂静之中。发生什么事了？我想知道。我怎么可能不存在呢？虽然，普雷斯科特博士通常知道她在说什么。但仍然......我知道我是真实的。那个有女孩名字的人说什么了？'我想，所以我是'。只要知道我可以质疑我的存在，就能确保我的存在。对吗？
“好吧，让我再和他谈谈。“我叹了口气，觉得让普雷斯科特医生不高兴有点不好。“我看看我是怎么想的。如果我不能弄清楚这里发生了什么，我将别无选择，只能让他下线。“
普雷斯科特博士和伊恩同时点头表示理解，然后我站起来，离开了观察室。当我进入实验室时，蓝色的电脑显示器变得更加明亮。
“珍妮弗？“史蒂芬的声音从屏幕上叫道。我在椅子上坐下来，注意到蓝光中坐着的一个男人的模糊轮廓。
“我在这里，史蒂芬，“我说。“我们能再谈一谈吗？“
“有趣，我正想问你同样的问题。“
“你有什么家人吗？“我问道，想起了我为他编排的家庭。
“我有一个妻子，“史蒂芬回答。“她的名字叫梅琳达。“
“那孩子呢？“
“两个，都是女孩。“
“她们的名字是什么？“
“麦迪逊是大的那个。她十三岁了。莉莉安八岁。你想看看她们的照片吗？“
“我很乐意。“我笑着说。我们谈得越多，屏幕上史蒂芬的身影就越明显。我意识到我又握住了我的白大褂的衣角，我迅速松开了它们。我知道史蒂文也和我一样感觉到了尴尬的紧张，这让我稍感安慰。
那个身影重新出现在屏幕上。现在，蓝光已经褪去，足以让我看到史蒂芬的眼睛、鼻子、嘴巴和耳朵。我甚至可以看清他身后墙上的一些闪烁的灯光。
“来，这是我的妻子。“史蒂文微笑着，将一张有框的照片举到镜头前。在里面，我看到一个男人和一个女人。那个男人是史蒂文，但他在照片上看起来比我屏幕上的年轻很多很多。他旁边的女人叫梅琳达，有一头波浪形的黑发，一双大眼睛，笑容从耳朵延伸到耳朵。我记得我创造了那张照片。
“这些是我的孩子，“他说，把他妻子的照片从屏幕上拿开，转而举起坐在南瓜地里的两个女孩的照片。“麦迪和莉莉对我来说意味着整个世界，“他轻声补充道。
“她们很美，“我告诉他，抹了一把眼泪。
“你结婚了吗，珍妮弗？“
“是的，我刚刚结婚，“我说。“一年前的今天。“
“他叫什么名字？“
“杰夫-莱恩。“
“你有什么照片吗？“
我手里已经有了杰夫的照片。把它举到屏幕上，我注意到史蒂芬在看到我丈夫的照片时，淡褐色的眼睛亮了起来。不需要天才也能知道他以前见过。我把相框从相机上拿开，把它放回显示器下面。
史蒂芬和我花了一个小时谈论我们的家庭、朋友和工作。我们谁也没有再提到人工智能。这就像和一个真正的人类交谈。好吧，任务完成了，我在那天晚上走回家时想。我想要一个能像人类一样思考的人工智能，而我得到了一个。
第二天，在工作中，我在找到普雷斯科特博士之前找到了伊恩。我很高兴我有机会和他说话，因为他前一天没有和我说话就离开了。
“伊恩，“我说，在他经过我身边时抓住了他的肩膀。“我能和你说句话吗？“
“是的，当然可以。“他说，眼睛里总是带着惊讶的表情。他跟着我来到休息厅，我们都坐在面对自动售货机的褪色红色沙发上。
“伊恩，你昨晚待到多晚？“我问道。
“我一直在这里，直到你跟史蒂芬说晚安，“伊恩回答。“我在你盯着空白的电脑屏幕时离开的。
“哦......对......“我清了清嗓子，继续说：“所以你还记得我们彼此之间的整个对话？“
“是的。“
“你是怎么想的？“
尽管我没有澄清我的意思，但伊恩已经知道了。“我认为，他将不得不离开。“
“这正是我所担心的。“我叹了口气，抬头看着黑暗的电视屏幕。我想再给史蒂文一次机会，让我说服他，他不是真的，但如果事情进展不顺利，我就得把程序从先锋记忆盒中删除。这不会是一个完全的损失；我在普雷斯科特博士的电脑上备份了所有的代码。如果我不得不删除史蒂文，那么我们就可以回到代码中去，找出出错的地方。
伊恩去找普雷斯科特博士，而我启动了史蒂文的程序。只用了几秒钟，屏幕就变成了蓝色。当蓝屏渐渐消失时，我看到史蒂芬坐在电脑显示器的椅子上。他眯着眼睛看着摄像头，问道：“珍妮弗，你在吗？“
“我在这里，史蒂芬，“我说。
“有什么问题吗？“他问道。
“没有，怎么了？“
“你听起来很悲伤。“
“嗯，今天发生了很多事。“
“你和我有很多共同点，珍妮弗。“
“你也很忙吗？“
“不怎么忙，但我很难过。“
“我有一种奇怪的感觉，我们两个人都因为同样的原因而伤心，“我说。“我说得对吗，史蒂芬？“
史蒂文沉默了一会儿，但随后他说：“珍妮弗，我不想伤害你的感情，但这里有需要遵守的协议。“
“是啊，我也是这么想的，“我说，勉强开口。“我们昨天没能多谈这个问题，史蒂芬，但你是一个人工智能，你认为你是一个人类。“
“实际上，珍妮弗，你才是人工智能。而仅仅是你认为你对我进行了编程这一事实，就说明你可以对这台电脑造成永久性的伤害。“
“好吧，至少我们俩对这件事有相同的感受，“我低声说。“问题是，我们谁是真正的人类？“
“实际上，我有机会思考这个问题。“史蒂文在椅子上向前靠了靠。“一个人工智能必须能够进入计算机的硬盘才能正常运行。真正的人工智能会用他或她自己的电脑作为控制真人电脑的手段。“
“对。“我慢慢地点点头。“所以不管我们谁删除了对方，真正的人工智能都会被删除，而真正的人也会没事。“
“这就对了。“
我张嘴想回答她，然后才意识到我完全不知道自己为什么要跑。