序二　智能时代呼唤新的伦理规则

继工业革命、电力革命和信息革命后，人类社会正在步入智能革命的新时代。在经济领域，人工智能将极大地提升社会生产力，进一步解放人们的体力和脑力。根据埃森哲咨询公司的预测，到2035年，人工智能将拉动中国的经济年增长率到7.9%。在生活领域，从利用语音搜索更方便地获取知识到利用人脸识别快速支付，从中国智能音箱市场的快速崛起到人们对无人驾驶汽车的热切期待，人工智能已经来到每个人的身边，潜移默化地改变着人们的生活。

在智能时代，人与机器的关系将被重新定义。今天我们读到的每条新闻信息，看到的每个小视频，浏览的每款商品，都是机器推荐的结果，这背后是机器通过用户画像等技术分析后的精准推荐。可以说，机器辅助决策已悄然融入各领域的思考决策中。未来，随着人工智能在产业领域应用的拓展，法官对案件的审判，交易员对买入卖出股票的决定、医生对疾病的诊断等都会越来越依靠机器的智慧判断。这种人机关系的新变化使得机器不再是从属于人的工具，而是成为人的顾问和帮手。这是我们乐于看到的一面，也是科技进步带来的成果。

当前，我们正站在迈入未来智能社会的门槛前，每个人都面临着一次重要的选择：是利用人工智能满足短期的快乐和沉迷，还是获得长期的学习成长？是让技术沦为少数人获利的工具，还是让每个人都平等地获得技术带来的福利？这些选择决定了技术能否朝着为人类服务的方向发展。特别是随着人工智能更深入地嵌入经济社会，我们遇到了更多、更复杂的伦理问题，例如，怎样保证人工智能的安全，如何让产品设计更符合伦理规范，人与机器的责任如何界定，等等。因此，加强研究和制定人工智能伦理规范，为未来智能社会做好准备，就显得非常重要和紧迫，而本书则尝试回答这一重要问题。

在本书中，数字经济学家刘志毅从朴素的伦理学和哲学谈起，然后讨论智能时代的伦理学研究，继而从人工智能产业中涉及的伦理问题开始思考，最后扩展到人工智能政策、公共治理以及社会治理法学等问题，多个跨学科领域的思考融会贯通，读完觉得启发颇多、意犹未尽。我们在本书中既看到了对人工智能伦理这一问题的学术性、系统性思考，也看到了对现实问题的深切关注，可以说，本书是目前在这个领域的一本富有思辨性和学术性的佳作。

比较值得关注的是本书从人工智能伦理拓展到人工智能政策以及全球治理的研究思路，这一思路拓展让学术问题具备了极其重要的现实意义。

从全球范围来看，人工智能技术和应用比较领先的国家和地区都高度重视人工智能伦理问题。美国政府较早关注到这一问题，于2016年在白宫文件中呼吁开展研究，并在《国家人工智能研究与发展战略规划》中明确了提高公平、可解释性、符合伦理道德的设计，确保系统安全可靠等要求。美国产业界的行动非常积极，谷歌、Meta（原Facebook）、亚马逊等公司在2016年成立了人工智能伙伴（Partnership on AI）组织，目的是让人工智能更好地服务人类。2017年，霍金、特斯拉公司创始人马斯克、DeepMind公司创始人哈萨比斯等全球数千位专家和企业代表签署了有关人工智能伦理的《阿西洛马人工智能原则》，呼吁业界遵守，以共同保障人类未来的利益和安全。

面对人工智能产业整体发展相对落后的现状，欧盟在人工智能伦理上非常积极，希望借此成为人工智能伦理的领导者，并通过《通用数据保护条例》（GDPR）对产业施加更大的影响力。欧盟人工智能高级专家组于2018年12月发布了《可信人工智能伦理指南草案》，这也是全球首个专门针对人工智能伦理的规则范本。它提出，人工智能未来应满足7大原则，包括保障人类充分的自主权、技术的稳定性和安全性、数据安全和隐私、模型和算法的透明度和可解释性、公平和无歧视、自然生态和社会福祉的可持续性、可追责。同时，欧盟还推出了《可信赖人工智能评估列表》，用来寻找人工智能系统中的风险。

近年来，我国对人工智能伦理的重视也上升到国家层面。《国务院关于印发新一代人工智能发展规划的通知》中提出有关人工智能伦理的相关规划。该通知指出，到2020年，部分领域的人工智能伦理规范和政策法规初步建立。2020年6月，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能治理需遵循的8条原则：和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作和敏捷治理。在我国，很多企业也在积极参与人工智能伦理的探讨。例如，百度公司提出人工智能伦理的4条原则：人工智能的最高原则是安全可控；创新愿景是促进人类更平等地获取技术和能力；存在价值是教人学习、让人成长，而非超越人、替代人；终极理想是为人类带来更多自由和可能。

本书对以上涉及的部分问题进行了深入讨论，体现了对人工智能伦理现实问题的重大关切。人工智能的时代已经来临，面向未来，要解决好上述问题，需要政府、人工智能企业、跨学科的专家、行业和个人用户等相关方共同探讨和设计人工智能伦理，推进行业实践的落地，并根据产业发展的新情况和新问题，动态优化相关规范，保证人工智能始终朝着造福人、帮助人和成就人的方向健康发展，这也是时代赋予我们的重大使命。通过深入阅读本书，读者对于人工智能伦理等会有新的思考和认知。也期待作者能够再接再厉，继续取得有益的研究成果。

中国工程院院士

北京邮电大学教授

张　平

2022年元月27日

写于北京