看完《西部世界》与《失控玩家》之后,我不禁思考:在人工智能时代,虚拟的情感体验给人带来的安全隐患究竟有多大?NPC也有人权吗?
在《西部世界》第一季的第一集中,Dolores的父亲曾是一名研究莎士比亚的大学教授。当他看破了西部世界的真相后,分别引用了两句莎翁戏剧中的台词,第一句是“地狱空荡荡,恶魔在人间。”出自《暴风雨》,第二句是:“一切残暴的欢愉,终将以残暴结束。”出自《罗密欧与朱丽叶》。 剧中有不少冗余沉闷的片段,但其核心问题还是人造人是否能产生意识和灵魂,以及人造人与其创造者之间的复杂关系。至于伯纳德与福特各自的结局,也和《银翼杀手》以及玛丽·雪莱的小说《弗兰肯斯坦》如出一辙。第八集中伯纳德和福特的一段经典对话是《西部世界》第一季的精华所在,两人的对话探讨了自我是否是一种虚构的问题。当伯纳德问出“痛苦只存在于脑海中,它总是想象出来的。那么我的痛苦和你的痛苦有什么区别?你和我之间有什么区别”,福特回答说:“没有什么门槛能让我们超越我们各部分的总和,没有什么拐点能让我们变得像个真人那样活着。我们无法定义意识,因为意识并不存在。”
“在循环开始之前就打破循环”,这是《西部世界》给出的答案。对人类存在本质的思考,使得《西部世界》获得如潮好评。如果说《西部世界》是一部充满了末日象征的后现代寓言,那么2021年上映的电影《失控玩家》则看起来乐观许多,塑造了一个人类与人工智能共存的乌托邦世界。
《失控玩家》探讨的是,人工智能是否能拥有自然人的一部分人权,以及如何与人类共存的问题,影片有着细腻的人道主义关怀。剧中男主角就像《西部世界》的女主一样,是一个过着无限循环生活的游戏角色。作为一个规规矩矩的银行小职员,他每天的生活就是早起和自己鱼缸里的小金鱼say hi,换上整齐的西装,出发前往银行上班。然而他终究是一个电脑终端的NPC,每天的剧情都会重复上演:有人来抢银行,他举手投降,趴在地下一动不敢动。突然有一天,男主偶然发现了女主从银行门口路过,也许是爱的力量感化了他,让他变得具有活人般的情感需求了。之后的故事有些平庸,好莱坞大片的元素纷至沓来:枪战、人工智能反抗,加上通俗的爱情戏。
男主的世界面临崩溃,而女主作为游戏的初始设计者,不忍心看到自己的心血毁于一旦,试图抢回自己游戏的版权。最终“自由城”中的所有平民得到了解放,被转移到了新的社会中,并且拥有了有限的自由意志。至少在新的游戏中,他们可以选择过自己想要的人生,不再受到杀戮的威胁。
电影可以被解读成是一则典型的阶级寓言。它催人反思,在之前所谓的“自由城”中,谁是自由的?谁又注定是牺牲品,重复着日复一日被虐杀的命运?人工智能的觉醒,必然导致人类与其的对抗。类似模式在无数经典科幻电影中被反复呈现,而《失控玩家》的新颖之处在于,它提供了一种人类与人工智能共存的可能性,并不一定是争得个你死我活的局面,人类与非人类之间,也可以找到一种相处之道,一个微妙的平衡点。
如果说游戏是为了满足人类在现实中无法发泄的病态欲望,那么NPC一旦有了部分的自由意志,玩家就违背了伦理道德,虚拟现实激活了人内心深处的邪恶的部分。可是悖论也在于此,只有当NPC的仿真度越来越高的时候,人类才更愿意花钱去买这样的游戏体验,元宇宙想要创造的也是同样的效果。
然而,其中蕴含的危险也是显而易见的,无论是元宇宙,还是角色扮演类游戏,在你的头脑里反复刺激那些不健康的情感体验之后,是会对机体产生一定的影响的。对于恐惧的二次元体验虽然无法导致机体的物理性损伤,可是带来的精神创伤也许是无法磨灭的。如果一个人越来越依赖于虚拟现实中唾手可得的残酷快感,那么他在现实生活中也很可能会找到机会去复制这样的危险体验。《失控玩家》告诉观众,人性中存在着一种打压、剥削、踩踏他人意志的“根本恶”,而虚拟现实无疑提供了一个激发人性恶的完美环境。毕竟,现实生活中的人们人际关系受挫、工作压力大,找不到发泄口,是再普遍不过的现象了。
虚拟的情感体验,在多大程度上是健康的?这个问题就好比思考NPC在多大程度上享有人权一样是个难解的问题。我们需要正视自己内心的阴暗面,及时化解不良的情绪,而不是绑架他人的共情,或者通过欺负更弱的人来获得一种精神胜利。《失控玩家》也催人思考,花钱去购买情绪体验是会上瘾的,而且很难戒断。在未来的世界,虚拟现实可能真的会变成精神鸦片一样的存在,甚至有替代传统心理咨询行业的可能。
在一个充满着不确定性的人工智能时代,很多人迫切希望能尽可能地掌控自身所无法掌控的东西,玄学和“锦鲤文化”的盛行也体现出现代人对于自我认知和自身命运的困惑感。从《西部世界》到《失控玩家》这样的影视作品中,我看到的是,在后人类的语境下,人应该如何处理自我与人工智能这个“大他者”之间的微妙而危险的关系:是和谐共处,还是互相竞争?
(作者系上海交通大学人文学院助理研究员)