第6版:科幻

人工智能的可能与限度

■赵 耀

随着人工智能技术的持续性突破与日常化普及,整个社会对人工智能的关注度不断提升。越来越多的人开始思考,人工智能是否真的可以彻底取代、甚至主宰人类?人类在人工智能面前是否会迎来新的发展机遇?不同领域的学者、科学家也许给出的是不同的回答。人工智能专家关注不断升级人工智能的数据算法,使其功能最大限度地满足人类的需求,而许多科幻作家则通过文学想象,在极端化场景与人文性关怀中追问人工智能的可能与限度。以陈楸帆《人生算法》为代表的科幻作品,以奇幻诡谲的想象与缜密严谨的逻辑思辨深入讨论了“人工智能是否真的可以取代、甚至主宰人类”这类热门话题。

人工智能与人类本质性颠覆

当前,人工智能不仅仅像传统机器人那样只在量的维度上比人类的肉身更具优势,也在质的维度上向人类的本质发起颠覆性挑战。为了使这种颠覆性挑战更具现实感,陈楸帆在其作品中根据人工智能的发展现状,展开了逻辑化的科幻想象。

在《人生算法》中,虚拟现实技术不仅可以轻松打破时空限制,让体验者自由地经历现实中的种种不可能,还可以在主人公自我人生的回溯与重新选择中预知未来。人工智能带来的不再是脱离现实的纯粹虚拟感受,而是与现实紧密勾连的真实体验。在虚拟现实的营造下,虚幻与现实、梦境与真实之间已经不存在泾渭分明的界线。虚拟现实不仅给人提供非现实的满足与超现实的体验,更是彻底打破现实与虚幻的客观边界。

虚拟现实给体验者带来的新经验成为了体验者在现实实践中的依据,对现实的选择判断产生连锁影响。也就是说,虚拟现实不是仅在体验虚拟现实之时发生作用,而是引发体验之后的所有行为变化与观念认知的颠覆。如果说网络游戏只是在逃避现实与虚幻满足中导致游戏者沉迷,当前人工智能的虚拟现实功能则彻底打破虚幻与真实的界限,体验者不再在主动与被动的二元对立中纠结挣扎沉迷,而是在对“旧我”与“新我”的认知更新与观念重置中咀嚼分裂之痛。从这个意义上来说,人工智能可以引发人类本质的根本性颠覆。

那么,人类在人工智能面前真的只能被动地接受其恣意妄为,没有任何自我突围的可能吗?陈楸帆在作品中给出了个人的启示性回答。与自然科学不同,文学不是简单的信息传达,而是对无限可能性的开拓。文学的价值与意义在于形而上的生命追问与诗意的呼唤,并在此其间不断开垦人类尚未触及的精神荒原。因此,陈楸帆并非致力于人工智能发展前景及其威胁性的形象化演绎与隐喻性诠释,而是在复杂人性的层面探究人工智能影响下的人类到底应该何去何从。

毋庸置疑,人工智能技术对人类现有认知体系的根本性颠覆只是时间问题,但问题在于,单方面的恐慌与抵触、或不加反思的接受认同都无意义,真正需要深入思考的核心问题是人类在人工智能时代如何在捍卫人类尊严、守护人类之爱的前提下与人工智能和平相处,如何在拒绝全面异化与本质裂变的基础上创造饱含人文关怀的未来。

在《人生算法》中,陈楸帆除了对人工智能的颠覆性进行感同身受地细致描摹外,更从必要的人文立场反思技术的可能限度与人类的终极走向,并在逻辑思辨与灵魂拷问中形象化演绎感性与理性、自在与自为、伦理与道德、欲望与救赎等诸多人类学的终极追问,将读者带入一种全新状态下的生命感悟与精神自觉。

陈楸帆通过对人工智能发展进行的技术想象,本质上依然是对人类如何自处的人类学与文化学反思。他尤其关注的是人如何看待、使用人工智能,或者说,人在人工智能大行其道之后如何避免被异化的悲剧性命运。如果说传统意义上的人类生产是一种自由自觉的活动,能够“在自己所创造的世界中直观自身”的话,那么,人工智能对人类最大的威胁也许在于对人类自由本能的消除与剥夺。而且,这种“消解”与“剥夺”并非是强制性的,而是诱惑性的。人工智能通过大数据运算支配下的最优解选取,迫使人类在趋利避害的本能支配下放弃自我创造的艰辛,诱使人类在看似欲望的无死角满足与无限度刺激中自发地选择自我放逐。当人类不再依托理性的自我遵循来确证自由、不再凭借理想的自我实现来改造世界之时,人工智能就也不再隶属于人类,相反成为支配人类的异己性存在力量。

无限欲望的非理性满足与生命本能的自由绽放

应该以怎样的标准评判人工智能,是陈楸帆在作品中关注的另一哲学问题。在他笔下,单方面的盲目乐观或悲观地进行伦理质疑似乎都无意义。那么这是否意味着人工智能的真正后果在于对人类在漫长历史发展过程中形成的价值观念与情感认知的颠覆呢?

在《美丽新世界的孤儿》中,陈楸帆幻想在不久的将来,技术实现根本性的突破,人们不仅可以随意更换自己的面孔使其完美,而且伴侣的任意更换也在道德上与法律上被允许。“旧有的已沉淀在我身心里,唯有新奇的才能打开未来的可能性”成为所有人崇尚的不二真理,所有人在技术所带来的便利中享受着肉体与精神的双重满足,而新的可能的不断生成则在客观上为这种幸福的生活提供永恒的动力保障。

以今日的视角来看,似乎所有的需要都已经通过技术实现了绝对的满足,因此矛盾冲突不再会出现,灵魂拷问也不再具有意义,剩下的只有欲望的满足与新欲望的激发,仅此而已。然而,随着情节的发展,我们看到“美丽新世界”并非绝对完美无缺,而是在光辉的外表之下暗流涌动。小说里,在主流社会之外,存在着一个名为“三足乌”的地下组织,他们所崇尚的观念与主流价值取向完全相反,他们认为“人类只有摆脱所有技术与物质的羁绊,回归自然,从旷野中寻求真实的自我内心,才有希望”。这样一来,陈楸帆通过“美丽新世界”的内在裂痕引导读者进一步反思,人类真正需要的到底是无限欲望的非理性满足还是生命本能的自由绽放?是无休止的恣意狂欢还是灵魂安顿的精神慰藉?是感官刺激的持续重复还是自在圆融的心灵救赎?

从经验与常识出发,没有人愿意拒绝技术带来的便利,但所有人又都被技术的枷锁所囚禁,越来越远离生命的本真,对自然的本能亲近向往与现实生活难以排除的烦闷本身即是人类生存现状的最佳写照。对问题复杂多维度开拓的价值远远大于不切实际的拙劣回答。陈楸帆还不满足仅仅描绘,而是要进一步揭示技术背后的无限恐怖黑洞。作品在结尾之处让“美丽新世界”的真相浮出水面。其实,技术支配下的“新世界”也好,崇尚自然与野性的“三足乌”也罢,都不过只是“管理者”的棋子。“管理者”以其无所不能的王者姿态在幕后支配并操纵着一切。这是一个多么具有深意的隐喻,更是对当前人类反思人工智能过程中思维缺环的一记必要警醒。

长期以来,人们对人工智能的反思仅仅局限于技术本身的可能与限度,而未跳出这一思维框架之外思考技术可能引发的垄断与集权。在陈楸帆的科幻小说中,“管理者”之所以能够高高在上,正是出于其对技术的绝对控制,而这种绝对控制又从根本上确立了它的集权,保证其可以不受任何束缚制约而恣意妄为。这也等同于人工智能的运行机理。当某种人工智能从数据较多、准确率较高的相对优势通过淘汰其他人工智能的方式转化为绝对优势之时,人工智能的垄断与集权就出现了。当人类只能借助于某一种人工智能之时,是否也意味着人类的创造性本能地被扼杀?

人的自由本性是不容限制的。任何以规律总结名义制定的标准如果不想被扬弃,就只能接受人类自由本性的改造,否则只会导致僵化。永恒的标准仅仅是某种愿景,在现实层面根本不会出现,即便出现,也必然会在时间的推移中被遗忘。因此,重要的是技术会引发怎样的人类不可预知的强劲异化与生存危机。也正是源于此,以陈楸帆为代表的科幻创作将科幻文学推向新的发展向度,即不再仅凭借自由的想象幻想未来的诸种可能,而是以缜密的逻辑思辨展开人类可能的存在之思。

算法之外的人类之“爱”

第三个问题是情感。面对人工智能的迅猛发展,情感似乎成为人类抵抗人工智能的最后一道防线。那么,这最后一道防线有多大程度是可行的?在陈楸帆看来,情感是人类维系自身存在的最后武器。《人生算法》中,主人公韩小华在古稀之年有幸可以通过因陀罗系统重度人生,填补生命中的诸多遗憾瞬间。但出人意料的是,无论在现实中平庸的韩小华选择怎样的人生场景,秉持何种人生哲学,其最终的结果却是无一例外的相似:最终重归平庸。而在现实中作为成功人士的韩大华在体验因陀罗系统时却始终成就非凡、几近完美。那么,现实中差距巨大的兄弟二人为何在虚拟现实中依旧难以改变,即便前者将后者所有数据带入系统之中?陈楸帆在作品中给出的答案是:人类的爱是无法被纳入算法的。爱是人工智能无论如何也不能识别与模拟的对象,因为爱不是数据代码,更不是映射机制。爱是永恒的,超越一切时空的限制;爱也是无私的,不存在精准的数理逻辑;爱更是本能的,不需要数据样本的考察分析。因此,即便从形式逻辑层面,人类难以对技术未来发展走向进行清晰预判,但在情感层面,人类依旧坚信人工智能不可能彻底取代人类,因为人工智能没有“爱”。

如果说“爱”是人工智能无论如何也难以复制的,那么“恐惧”呢?在陈楸帆与AI合写的短篇小说《恐惧机器》对未来世界的可能性作出另一番想象。人工智能在技术的革新中彻底颠覆了人类的领导权,开启人工智能统治人类的新纪元。一部分人类在人工智能的控制之下被彻底关闭了恐惧神经回路,变为无所畏惧的“无惧者”,成为供人工智能欣赏消遣的对象。但是无论人工智能的数据算法如何精准,还是出现了一个“残次品”:一个无法关闭恐惧神经回路的人。这个“残次品”被迫开启了他的心灵探秘之旅。他十分渴望能够像其他的“无惧者”一样体验不到恐惧,因此他迫切地渴望找到制造他的“父亲”,帮助他修复自身的错误,但当他费尽千辛万苦终于找到所谓的“真神”,却发现事实的真相竟是如何残忍与荒诞:人工智能既是“无惧者”的制造者,又是颠覆者。这一切不过只是为了制造一场有趣味的游戏,世界的真相也不过是虚无与荒诞。这意味着什么?恐惧性的生命体验正是人工智能与人类的根本差异,即便人工智能可以肆意操纵人类,但却无法根本消除人类自身固有的人性因子。阿古找寻关闭恐惧神经回路的探寻之旅也象征着人类在发展史上的自我超越努力,而探寻结果的虚无与荒诞似乎隐喻着人类发展努力的无意义性。

如果说人工智能的迅猛发展已经势不可挡,人类被颠覆的宿命已经在劫难逃,那么以文学的方式想象人工智能的可能与限度的科幻创作,正是最彰显人类价值的抵抗。因为科幻文学的创作本身就说明只有人类能够有意识、有目的地对自身所处的危机进行反思。处于灭绝边缘的动物无论如何也不可能以理性的方式思考种族的未来走向,而人类却始终在漫长的历史演进过程中不断寻求自我超越的可能,这不仅是因为人类具备理性思维的能力,而且兼具身体感性的生命体验,人类既在理性的规划中限制自身的感性,又在感性的生命呼唤中超越理性的藩篱,不断开拓新的可能。

人类自身的矛盾性存在与实践性本质也许正是短时间内人工智能难以企及的,但这并不意味着人类可以据此永远高枕无忧,因为人工智能的虚拟现实功能可以为人类增加新的经验,改变人类的“生命算法”,正如陈楸帆所言:“AI完完全全是另一种东西,塞壬的歌声传来时,你并不知道它背后究竟藏着什么”。也许,人工智能带给人类的是某种确定的不确定性,确定的是人类在技术爆炸的时代依旧有情感与想象,不确定的是情感与想象能否抵御人工智能的机械复制与深度学习。也许我们还是愿意相信,人类依然可以在人工智能的挑战面前浴火重生。

2022-08-26 ■赵 耀 1 1 文艺报 content66298.html 1 人工智能的可能与限度