控制意味着将人的大脑撕裂，并以你选定的新样式将其缝合。
——乔治·奥威尔 （George Orwell)
第二章
在数字世界里了解一个人
如今，有些技术能以无法想象的规模对来自各种数字资源的信息进行整合，它们可以通过追踪用户留下的数字“足迹”来建立个人资料，然而这个过程往往在用户不知情，且未被告知或未征得许可的情况下完成。
我将在第十章中详细介绍“数字足迹”（digital footprint），它指的是在数字空间中可被追踪的所有活动。数字足迹分布在网络上，它能诉说每个网络用户的私人故事——一天登录多少次脸书、点赞多少次、登录多少次新闻网站以及在谷歌上搜索什么等。手机能在用户不知不觉中泄露大量个人信息，例如在哪里生活、工作，喜欢去哪里玩以及习惯做什么等。人们在数字空间中的每一个动作都会留下数字足迹。当把这些“足迹”集中分析时，就能揭示有关用户的个人偏好、习惯和特征信息，还包括是否有相信某些阴谋论的倾向，以及是否是娱乐八卦的粉丝等。这些分析的用途非常广泛，适用范围从营销和销售、审核贷款，到产生政治影响，甚至还可以储存在提供求职者信息的人力资源公司的数据库中，从而可以让招聘者不依赖候选人来获得信息。用户在网络上的每一个动作，无论多细微都会被监测，比如按键、打字、犹豫、深思以及参与互动的程度。
我会在第十章详细介绍剑桥分析公司，它是最早实施上述想法的公司之一，它们通过收集用户数字足迹，以及为每个用户定制私人消息，从而让用户在无意识间改变了行为。该公司前雇员克里斯托弗·怀利（Christopher Wylie）透露，剑桥分析公司先后为美国联邦参议员特德·克鲁兹（Ted Cruz）和唐纳德·特朗普（Donald Trump）提供服务，涉及约5000万名脸书用户的个人资料。他们的目标是“利用对用户的了解来建立模型，并瞄准用户内心的恶魔。这是整个公司工作的基础 ”。（Wylie，2018）
这件事引起了轩然大波，但它并没有阻止其他公司以类似的方式在数字世界中干预并控制每个用户收到的消息——行业已经知晓那些无意中收到的消息对用户意识存在何种潜在的巨大影响力。应用程序Spinner的开发者意识到，在政治以外的其他许多领域同样可以影响用户行为。Spinner提供了这样一类服务：它允许用户按照自己的想法，通过控制特定对象所访问网站上的内容，在对方不知情的情况下影响他。简单来说，只需支付29美元(1)的费用，就可以在某些人脑海中“植入”一些想法。该网站提供了许多专用内容套餐，每个套餐包含十篇指定主题的文章。当特定对象（目标(2)浏览者）浏览某个网站时，他在三个月的套餐有效期内将被推送事先选定的内容，例如被劝说买狗，或者被劝说戒烟等。
Spinner能提供一些能对个人生活发挥作用的服务，例如推送诸如“在法庭外解决离婚诉讼的四个技巧”之类的文章，期望配偶重新考虑是否在法庭上提交离婚诉讼。有一个专为男性提供的流行套餐叫作“开启浪漫关系”，该套餐在销售时承诺能让女性在浏览内容后产生情欲。另一个流行套餐则有助于摆脱不喜欢的同事，其重点是试图通过诸如“现在是退休的好时机”或“如何写简历”等内容来刺激同事去找新工作。
Spinner还能提供定制服务。例如，当子女两人因出售父母留给他们的房子而发生争执时，其中一方就可以通过购买服务，让另一方收到强调出售收益的内容，从而达成说服出售的目的。Spinner模型允许每个用户针对一个目标对象，通过让对方浏览关于戒烟、求婚、复合或发生亲密行为等的信息来改变他们的想法。推特上有一段有趣的视频，一位非洲裔美国女性解释了她是如何让她的男朋友看到诸如“求婚前的七种迹象”“如何选择订婚戒指”（Mrs. Joseph，2019）等文章来促使他向她求婚的。截至写稿时，该视频获得了50万次观看量。不难发现，这项服务最能证明在数字世界里没有明确的规则，任何人都可以在灰色地带进行一番操作。
另一个有趣的例子是填写在线问卷。人们可能从未想到或是不曾知道，在网站和应用程序上填写的在线问卷是丰富而广泛的个人信息来源。典型的评价系统会根据你提供的详细信息来打分，还会设置收入水平、教育或健康状况等变量。例如，汽车保险会考虑参保人先前的事故数量，健康保险会考虑过往病史并有针对性地进行评估。请想象一个申请创业贷款的情景：申请人穿着量身定制的衬衫，确保刮好胡子后，在银行工作人员面前坐下，对方试图根据所有可能的线索，考察他是否可以被信任，是否有偿还全额贷款的能力。除了参考过往财务史，银行工作人员还会尽量从会面时的行为举止中找出尽可能多的细节，比如看起来是紧张还是放松。这些信号也是信用记录的重要组成部分。或者，请试着想象自己点开一个在线问卷并开始填写。假设你在填写特定内容时有些犹豫；或者在填写某个答案时，输入速度与其他字段相比特别慢；或者一开始跳过某个问题直到最后才回答——这一切操作行为都会被监测并记录，然后用于进行整体评估。
因此，仅是在填写问卷时犹豫不决，也可能会影响对问卷填写人的评估。我曾负责一个美国某主流保险公司的项目，就健康保险申请表填写过程中的用户体验，向他们提供建议。我做的第一步，是观察用户填写详细信息时的行为。其中有一位用户做出了一个奇怪的行为。当被问及是否吸烟时，他的回答是肯定的，随后他需要回答自己一天抽多少支烟。他没有立马回答，似乎显得有些犹豫。停留许久后，他最后填写了一个确切的数字，继续往下答题。当他填写完问卷时，被要求保证自己提供的详细信息是正确的，并签字确认。此声明还附有一条细则：若所填信息不正确，公司将保留采取法律行动的权利。这份声明连同签字被认为具有有效的威慑力。这位用户阅读完声明后，立刻点击返回，将此前给出的关于每天吸烟的数量改成一个更高的数字。分析完这位用户在同一页面的行为后，我发现他不仅在回答这个问题时花了很长时间，而且之后填写其他答案的速度也变慢了。这说明说谎会提高人的唤醒（arousal)水平，大脑系统处理唤醒的一种机制是普遍减缓行动，在这里就表现为用户撒谎后答题速度变慢。
除此以外，人们还可以根据易于检索的数据（例如每月支出）来判定一个人生活的稳定程度，比如一个人近几个月的支出情况。假设一个人当月的总花销为八千新谢克尔（以色列通用货币），次月为两万新谢克尔，第三个月为三千新谢克尔，那么此人将立即被评为生活不稳定。测试稳定性还有一种富有创造性的方法，就是分析Whats App的对话。研究发现，经常与家人朋友交谈的人一般比缺乏支持基础的人更稳定。
不论人们提供的个人信息如何，通过上述方式就可以开发一个只依靠用户留下的数字足迹来标记可信赖度或稳定度的模型。一个有趣的例子是新建联系人。研究发现，有些用户会在系统专设的空格中填写好相应的细节，一般会包含姓氏、名字、公司等信息，例如“张三 办公室”或“李四 快递员”等，与那些随意填写联系人信息的人相比，他们被认为更具条理性、更有强迫倾向且人际交往能力较低。在不久的将来，或许每个人都将拥有一个基于网站、社交媒体或应用程序上留下的足迹的数字状态，它将被传递给任何想要测试用户的人。因此，当你下次遇到填写数字问卷时，请留心填写速度以及任何相关操作，以及自己添加新联系人的方式。
用户信息被收集起来后，将被用于广泛的领域，其使用目的可谓无穷无尽——从以商业营销和销售为目的，到以施加政治影响力为目的，再到公司以配备职员和筛选工作候选人为目的。因此，公司最感兴趣的是建立关于每个人的数据库并以此进行信息交易——这就是商业模式。以导航应用程序为例，此类应用程序将用户当前位置信息发送到服务器，从而能计算用户到达目的地所需花费的时间。但它同样可以把这些信息发送到第三方数据库，通过安装在设备上的附加应用程序获取对联系人的访问权限。虽然两个应用程序拥有的权限是独立的，但如果两者都使用了相同的第三方数据库，那么该数据库就可以获取不同信息。
一个影响用户的普遍方式，是逐渐向他们增加所见内容的激进程度。在纪录片《监视资本主义：智能陷阱》（The Social Dilemma）中，视频分享平台优兔网（YouTube）的一位负责开发推荐引擎的前工程师说：数字化陷阱是算法倾向于使内容激进化。例如，如果一个女孩正在寻找关于节食的视频，那么她很可能会被推荐看一个关于厌食症的视频。算法知道如何将用户引导到最令人兴奋、最激进和最耸人听闻的内容上，但这不是因为优兔网想蓄意伤害用户或将想法植入用户的脑海中，而是因为这种方法被发现能有效保持用户注意力。当然，这些算法都是在没有恶意的情况下运行的，实际上没有特定的意图，它们只是从程序员那里得到了一个关于积极性强化的定义，在优兔网的这个例子中指的就是尽可能延长用户使用该软件的时间。经过反复试验，模型了解了什么会让用户在网站上花费更多时间——内容越吸引人、越激进、越具阴谋性，用户就越有可能长时间停留。
目前，数字世界还没有规范使用时间或防止上瘾的法规，也没有用于定义用户是否上瘾的手册。每个用户都需要对自己负责，而个人承担责任的前提是自由选择。但这里的问题是，不论是数字世界、网络、购物网站还是游戏中的交互，都没有为用户带来真正的自由选择，因此希望用户负责任地行事是一种错误的期望。为此，用户参与了无休止的“实验”，其中许多是在不知情的情况下进行的，用以测试促使用户采取行动的积极性强化物是什么：文章标题中出现的“性”一词是否会引来更多的点击？标明“仅限今日”更好，还是“24小时内”更好？把哪个产品放在热门产品旁边，能激发更多人去购买？什么是“蒙蔽”用户最有效的方法，让他们在进入网站时难以觉察网站在收集有关他们的信息？可以说，人们在数字世界中做出的“决定”，几乎都不是自由选择的结果，因而能够控制菜单选项也就能控制人们的行为。
以前文提到的应用软件Yelp为例，这是一款用于分享评价和推荐的应用程序，其业务范围涉及美国各地的餐馆和酒店，以及车库、诊所和健身房。该平台声称，他们使用的算法会根据用户的相关性过滤用户推荐，具有可靠使用史的用户的评论将会获得权重加成，以帮助其他用户选出最合适的商家。尽管该平台试图为用户营造一种他们的算法是客观的且基于评价的感觉，但其收入的主要来源是广告。为了获取经济利益，网站排名靠前的商家会被建议通过付费来增加曝光率，以及提高正面评价的可见度。当一位用户进入应用程序搜索特定区域内的餐厅时，他认为他正在从所有可选项中进行选择，而实际上呈现给他的选项已被以某种适合平台利益的方式过滤了一遍。很明显，平台上的评论和评价并不是客观的。
即使是被认为完全客观的应用程序，比如导航应用程序，实际上也会利用心理操纵，探究能“更有效”地提高用户评价的方式。导航应用程序的开发者研究的是这些问题：如果提供给用户的预计到达时间比实际花费时间多了几分钟，用户是否会觉得自己“跑赢了时间”？或者，是否最好能为用户提供准确的预估，从而提高应用程序的可靠性？是否存在第三种选择，那就是提供一个时间差值，即给出一个比实际所需时间更短的预计时间，让用户在出发时就心情愉悦。（Grabowski，2018）
毫无疑问，上述例子足以说明数字用户没法自由选择的事实。人们很容易低估操控意识的力量及其影响决策的方式，我们每天接触的信息和它的呈现方式就是这样显著地影响了人的选择，这就是所谓的“框架效应”（the framing effect）。框架具有影响决策的能力，这听起来像是具有颠覆性的观点，它的影响确实十分深远。它之所以如此有效，是因为人们通常没有将注意力放在这一点上。众所周知，人们在刷卡付费时一般不介意多支付一些费用，但如果信息以不同的方式呈现，比如不显示现金支付具有折扣，而是强调刷卡付款要多缴税，那么人们就会拒绝支付附加费用（我将在第九章中详细讨论这一点）。因此，在我们接触数字世界之前，类似“框架”这样的认知偏见早已存在，而在数字世界中，行为设计已经上升到了艺术的水平。换句话说，算法比人们更了解人们自己。
在数字世界中，设计大众意识的领域被称为“行为设计”（behavioral design）。该学科以经济学原理为基础，致力于了解如何让人们以程序所有者所期望的方式行事，包括在应用程序上花费更多的时间、加入特定的服务，或者与某些特定的人建立联系。唐·诺曼 （Don Norman) 在《设计心理学》（The Design of Everyday Things) 一书中指出，通过数字环境的设计，可以指导、管理甚至提前设定我们想要的用户行为。
本章要点
数据收集技术可以通过追踪人们留下的数字足迹来建立个人资料，这通常在人们不知情且未告知或征得许可的情况下完成。
目前，数字世界中没有规范使用时间或防止上瘾的法规，也没有定义用户是否上瘾的手册。用户需要对自己负责，但个人承担责任的前提是自由选择。然而，数字世界、网络、购物网站和游戏中的交互并没有为用户带来真正的自由选择，因此希望用户负责任地行事是一种错误的期望。
在数字世界中，设计大众意识的领域被称为“行为设计”。该学科基于经济学原理，致力于了解如何让人们以程序所有者所期望的方式行事，包括在应用程序上花费更多的时间、加入特定的服务，或者与某些特定的人建立联系。长期以来，该领域控制并影响着每个用户收到的消息。
人们很容易低估操控意识的力量及其影响决策的方式，但是人们所接触到的信息及其呈现方式，都显著影响着人们的选择，这就是所谓的“框架效应”。框架具有影响决策的能力，这听起来甚至是具有颠覆性的发言，它的影响十分深远。而它之所以如此有效，是因为人们通常没有将注意力放在这一点上。
用户界面的设计可以影响用户在网站或应用程序上的操作，这些操作可以让用户购买原本不打算购买的产品、在网站上花费比预计更多的时间、每隔几分钟检查一次手机新消息提醒、订阅不需要的邮件，或者花几个小时玩游戏。
科技公司正致力于通过建立最有效的“环境协议”来获取更多利润。
(1) 该价格以本章的书写时间为参考，可能会有变动。
(2)“目标”一词源自广告和营销领域，意指使根据某些标准细分出的目标受众，接收可能与其相关的营销和政治内容。