黑镜与秩序:数智化风险社会下的人工智能伦理与治理
上QQ阅读APP看书,第一时间看更新

未来畅想曲

1957年,美国著名科技杂志《大众机械》审慎提出:“21世纪20年代初期,美国的道路会变成气动管道。”

1959年,美国邮政局局长高兴地提出:“未来我们用火箭送信。几小时内,信件就可以从纽约到达加利福利亚。”

1965年,美国科幻电影《史前星球之旅》上映,电影中人类已经在月球上建立了永久基地,人类宇航员旅行了数千万千米登陆金星探险,并且在金星的表面发现了众多奇异的动物和植物,包括已经在地球上灭绝的恐龙。

1997年,《连线》杂志也曾做过相似的预测:大约在2020年前后,人类可以登上火星一探究竟。

如今,2020年却以一种如梦如幻的姿态将现实猝不及防地展现在人类面前:1月,澳洲山火导致12亿只动物死亡;2月,非洲蝗灾、猪瘟让1900万人食不果腹;3月,新冠疫情在全球爆发;6月,洪水侵袭中国24个省份……然而在曾经的影视作品中,2020年听起来是一个异常遥远的年份。

想象中的这一年,《银翼杀手》中汽车已能够在高楼林立的城市中穿梭飞行;《捍卫机密》中人类只要戴上一个头盔,无须说话就可以直接利用人脑传输资料;《机器战警》中被科学家改造成半人半机器人的“铁甲威龙”守卫着城市的和平;《终结者》中人类打造的机器人甚至开始统治世界。

在科幻世界里,2020年是一个非常特殊的年份,此时人类应该早已能够轻松地上天入地、遨游太空,享受着高度的科技文明。据维基百科不完全统计,至少有97部电影的时间线涉及2020年。然而,如今的世界并没有像科幻电影里一般变得赛博朋克(Cyberpunk),车还是不能在空中行驶,人工智能依旧不能代替真人,“脑联网”没有出现,也无法买张机票飞去火星……关于2020年,我们没想到的事情确实太多了。

尽管人类在各类影视作品、科幻小说中畅想的2020年没有实现,但在科学技术这一当今最大生产力的推动下,人机共存时代在某种意义上已经来临。两次工业革命让人类的生产力大大提高,最近一百年创造的知识和财富远超过去几千年的总和,这让人类有了从未有过的雄心壮志。当机器人、人工智能、云计算等这些已经被实际应用的技术日益融入人们的日常生活,人类有理由期待更加自动化的生活。

马克思说:“各种经济时代的区别,不在于生产什么,而在于怎样生产,用什么劳动资料生产。”当科技成为我们的一种基本思维方式、生活方式的时候,智能经济时代的序幕已经拉开。我们需要意识到,在智能社会,纵使人类占有主导权,人与科技之间的关系也是处于不断动态博弈的过程中的。现代的日常生活被各种智能产品环绕着:无人驾驶、人脸识别、智能药丸、教育机器人等,这些智能结晶代表的是人的认识理性和实践理性所取得的空前成就。尤其是2016年以来在人与人工智能的竞赛中,人工智能一次又一次的胜利彰显着科技理性力量之强劲。

自苏格拉底、柏拉图直至黑格尔,西方传统哲学对启蒙理性的强大信念是这个理性化、祛蔽化的智能社会的基因和底色。然而对理性趋之若鹜和盲目骄傲必然会使原本作为目的的理性产生质变——工具理性裹挟着现代人走向了幸福生活的反面。

实际上,“智能社会”本身就暗含矛盾。它是“充满智能机器的社会”与“人类的社会”的结合体。但机器与人类作为两种本质及属性截然不同的存在,两者的结合必定是极其复杂和充满矛盾的过程。事实上这种矛盾早已露出端倪,在人工智能产品不断更新换代的过程中,人与机器之间早已不仅仅是使用者与服务者之间的“主仆”关系,而是发生了机器不可思议的胜利、人过度依赖机器、机器意外“主动”伤人,直至催生出科幻电影频频上演机器主宰、奴役人类的恐怖想象。人工智能本是人类为实现更美好、更理性的生活的伟大发明,但在一次次突破人类能力的胜利中,科技理性却成了满足人类欲望的借口。理性被囚在欲望牢笼里丧失本性,欲望却打着文明的幌子肆无忌惮。

上文提到了科技在科幻电影中给人类带来前所未有的力量,但同时也展现了科技放大的“黑暗面”:畸形的人类欲望在超级人工智能面前暴露无遗,人也不断遭受着欲壑难填之苦。《机械姬》中的漂亮机器人成了满足肉体欲望的工具;《人工智能》中机器人实际上是去世亲人的复活,教人逃避死亡;《她》中男主人公利用虚拟女友逃避现实中的正常人际交往。以往那种只会吃苦耐劳的机器人并不能令人感到满足,出于各种商业、政治、战争目的,人工智能产品层出不穷,不断刺激着人全身心的各种欲望。

我们可以看到,科技在推动社会进步的时候,也可能推动人性的异化以及扭曲,而这种异化和扭曲反过来会进一步推动技术进步,引发更多的负面性。一个个更先进、更智能的人工智能产品,只能暂时填补欲望之壑,却无法构建人与机器世界的和谐伦理秩序。《她》中的主人公沉溺于虚拟智能世界,难以适应现实社会。现代版的洞穴之喻表明,我们不再害怕黑暗的虚幻之物,却害怕面对现实的光明。电影中的超级人工智能不仅仅是幻想,它表明了现代人早已不再满足于冷冰冰的科技产品,而是想发明一种像人的玩物来满足私欲,自己去扮演全知全能的角色,不用承担现实责任。这是否意味着科技这一丰富的养料正在助长人类自私的基因?

更进一步说,这是与人类历史的现代性相关的课题,正如涂尔干表述的那样:“现代把自己置于过去的对立面,然而源自过去,并使之长存。”而进入后现代之后,我们难以在历史中找到相似的范式,尤其是如何与人工智能相处的层面,人类是缺乏经验的。关于未来的畅想无论是乐观的还是悲观的,都反映了对人性善恶的不同假设和预期。以异化的概念来说,马克思的异化概念建立在这样的假设前提上:人“天生”是善良的,但被社会腐化了。相反,涂尔干的失范概念则源于这样的假设:人“天生”是个倔强执拗的生命体,其自负自大的品性必须由社会加以严格约束。上述第一种观点被认为与卢梭的观点接近,第二种观点则接近霍布斯的观点,但是无论哪个观点都与现代性带来的人性的探讨相关。

从这个意义来说,未来的畅想实际上是人类世界进入人机共生世界的规则和范式命题,而非仅仅关于科幻对社会发展的想象。