推荐序三
数字时代的伦理焦虑
今天早上，我的手机推送给我一条消息：上周你的屏幕使用时间减少了14%，平均每天7小时14分钟。看到信息，我放下手中的工作开始困惑，我真的看了那么久的屏幕吗？上一周我难道不是一直在伦理实验室监督施工，以及撰写一篇英文书评吗？思考之后，许多记忆碎片中的自我形象涌上心头，比如每天上下班使用Car Play导航的我、使用手机支付的我、打开音乐软件听歌的我、晚睡刷短视频的我，以及每天早上在购物网站打卡抢红包的我。作为一名数字移民(1)，我的生命和生活，虽然伴随着各种数码屏幕展现的内容而变得丰富且充实，但是我也受困于屏幕和数码世界的边界。米歇尔·福柯（Michel Foucaut）曾经讲过这样一个比喻，蜘蛛网扩展了蜘蛛的生活空间和生存可能性，但是蜘蛛也受困于蛛网。现时代的我们都处在这样的生活样态中。
利拉斯·马加利特撰写的这本书向我们展示了数码生态世界的多层级样态。一方面，数据公司和产品提供者借助行为主义心理学与助推理论，使得用户不再被视作一个具体的（embodied）人，而是一个虚拟的能动者（virtualagent）、一个具有经济价值的行动黑箱。另一方面，用户面对手机程序，他们被吸引、被操控，沉迷其中，在无意识中被收集信息，并仅仅因为一些小恩小惠的福利而被心甘情愿收集信息。如果我们将任何行为过程都刻画为输入、处理和输出三个环节的话，那么在输入端，作为用户和消费者的浏览历史、浏览时间、翻页比较等数据都将以“用户足迹”的方式记录在数据库中，以供分析和二次转卖。然而，对于数据和内容的提供者（商业公司）而言，简单的读取和分析早已经不能满足需求，他们更希望进一步塑造和影响用户的心理，从购买心理到用户期待，借助这种塑造来获得更多利润，并同样使得用户在无意识中接受操纵，从而心甘情愿地花钱。
倘若如此，每个用户就仅仅是被看作一个能花钱的“缸中之脑”（braininavat）。哲学家希拉里·普特南（Hilary Putnam）曾经提出这样的思想实验案例，如果邪恶科学将人的大脑放入充满营养液的玻璃缸中，并通过电信号给它提供各种虚拟的关于外部的信号与刺激，那么这个大脑是否知道自己不在真实世界中呢？信息操控者希望我们都成为手机屏幕前的“缸中之脑”。如果这个设想成真，那么人类的具体生活就可以被塑造为“脑的生存”——大脑的活动无须评价外部世界的经验和知识，只需要不断输入的数字信号和营养液就可以被塑造成操控者想要的模样。
然而，毕竟我们不仅仅是屏幕前的大脑，我们的生活经验总会不断地去证成自身存在、言语和行动的价值。数字内容提供商在数字世界与现实世界的商业衔接的部分也已经耕耘颇多。首先，借助短视频公司所提供的算法偏好与内容模板，每个人的生活都被相同的视频内容、音乐旋律和剪辑样式所规训，不仅个人用户的创作内容变得扁平、空洞和乏味，而且用户们的情绪、期待和展现的生活价值也被同质化。其次，当用户的特质变得扁平，作为“人”的用户隐退了，被系统标签化为“非人”属性的“数字足迹人”浮现出来。我们不再是活生生的人，而是一个个标签的集合，我们的消费观、价值观和种种选择偏好都在属性类别中呈现，程序和算法甚至比我们更知道我们要买什么——人类已经成为数字肥皂泡中的囚徒。再次，商业公司为了避免我们逃脱数字肥皂泡，会与更多的线下产品进行联通，表面上数字平台使得旧有的所有产品都智能化了，但另一方面，数字平台的控制力也变得更强大了。随着家具、汽车等传统制造业通过屏幕和互联网向数码化和虚拟化转型，数字平台已经深入我们生活的物质角落中，特别是在新冠疫情之后，服务、教育、咨询、健康和医疗等领域也开始向数码化和虚拟化转型，数字平台和虚拟经济不仅改变了制造业、家居生活，也开始深入过去我们认为实体生活中必须“以人为本”的行业中。最后，数字化和扁平化的平台使得人类对自身的看法被颠覆。过去哲学家们一直认为人类与动物最引以为傲的区别（例如理性、自我觉知、有意识地行动等）都已经被证明是可以被操纵和影响的，这样一来，不仅理性主义动摇了，哲学和价值的基础也在动摇。人类总是期待去实现数字平台期待我们成为的样子，却加剧了我们迷失自我的程度。
马加利特的作品为我们现时代的数字困境揭开了一角，虽然本书对于解决数字操纵的方案涉及较少，但展示问题至少为解决问题的路径提供了可能。首先，从立法角度，用户数字足迹的隐私立法刻不容缓，对用户隐私数据的收集应当加以限制，数据收集必须合规，而数据的二次分析、转卖都必须通过合法程序。其次，从政策上，对于数字平台的后台操作应当确立边界，诱导消费、诱导打卡、诱导充值、价格操纵、数据资源剥削等都需要明确禁止。再次，从公司伦理合规角度，应当倡导符合社会伦理规范和用户知情权的企业伦理，对隐私负责行为进行公示和排名，奖励负责任的数字平台企业，惩罚违规者。
对数字操纵的批评有时候并不仅针对商业和用户平台，从社会知识论视角看，当用户的信念辩护渠道被数字媒介绑架后，用户的信念——不只是有关消费信念，也包括政治信念和国家安全——容易成为媒介或操纵数字媒介集团的操纵对象。从本书提到的剑桥分析案例就可了解到，数字空间的信息操纵、反智民粹主义和阴谋论已经深刻影响到美国的国家政治、选举、移民政策和民意等。这种潜藏的政治风险也是我们需要关注的。希望读者能够在阅读中体会到作者“撕开”数字伦理困境一角带来的更多、更深远的思考。
朱林蕃
复旦大学科技伦理与人类未来研究院副研究员
(1) 数字移民（Digital Immigrant）指称长大后才接触数字产品并在一定程度上无法特别流畅使用的族群。与此相对，数字土著（Digital Native）指的是从小就生长在有各式数字产品环境的世代。这两个用词出自2001年马克·普伦斯基（Marc Prensky）发表的文章《数字土著，数字移民》（Digital Natives, Digital Immigrants）。