第5版:科幻

不能将AI发展视为纯粹的技术问题

■刘永谋

2024开年,人形机器人、脑机接口和大模型等新科技进展,不断成为社交媒体追逐的热点。面对AI技术带来的冲击,智能革命是否使人与技术的关系发生重大改变?人类应当如何面对以AI为代表的新科技之迅猛发展?笔者试图厘清相关现象,并尝试思考和回应这一议题。

对AI话题娱乐化倾向保持警醒

某种意义上,社会层面的AI话题具有一定程度的娱乐化倾向。首先是研究方向娱乐化。这一波AI热潮发轫于2016年Alpha Go战胜李世石的围棋比赛。之后,AI热门发展方向是聊天、写短文、虚拟人以及生成图片、短视频,而非提升或改造实体经济和制造业。其次是公司组织娱乐化。不难发现,Open AI、Neuralink等新科技公司非常重视通过公关宣传吸引流量。第三是技术推广方式娱乐化。从现实来看,往往有企业家乐于扮演“科技超级英雄”的角色,埃隆·马斯克和萨姆·奥特曼就是典型。还有媒体炒作“AI觉醒修辞”“AI威胁论”吸引大众眼球。与AI有关的评论往往贩卖AI恐慌,言辞激烈,消费大众情绪。

西奥多·罗斯扎克在20世纪90年代就指出:“人工智能研究进行下意识的自我吹嘘的原因十分简单:大量的资金注入了这项研究。”按照技术—商业“双螺旋体”的逻辑,技术本身的新进展很重要,但更重要的是如何吸引公众眼球。毕竟注意力的投入就等于源源不断的资金投入。可以说,“AI宣传术”为AI的迅猛发展立下了汗马功劳。

审慎应对人工智能“颠覆式冲击”

AI娱乐化传播能够发挥作用,也与它对当代社会广泛而持续的颠覆性冲击有关。以Sora、ChatGPT为代表的生成式人工智能为例,就目前显示的迹象来看,至少会导致以下三个方面的挑战:失业问题,它可能导致文案策划人员、原画师、视频制作人员、工业设计人员、程序员等脑力工作者大量失业;教育问题,它可能冲击既有的教育科研系统,比如学生可以用ChatGPT写论文,Sora可能影响视频制作相关专业的招生;信息安全问题,它将自动生成海量的人工智能生产内容,真伪难辨、权属不清、追责困难,甚至可能成为挑战主流价值观和意识形态的危险工具。

Sora、ChatGPT等的兴起,标志着人类开始进入AI辅助生存社会。在AI辅助生存社会中,人类的生活、学习和工作都将在AI的帮助之下完成。也许不需要太久,机器人便有能力取代人类所有的体力劳动和绝大部分的脑力劳动。机器人不眠不休,完全可以将科技生产力提升到难以想象的高度。当AI替代劳动社会完全到来,理论上智人很快会迎来地球增长极限。在极限到来之时,科技智人得设法使人类文明在地球之外站住脚跟,否则可能被锁死或逐渐衰退。彼时,AI可能将经济不平等推向极端:大量被AI代替劳动之后的“无用之人”,没有劳动报酬如何养活自己、抚育后代呢?类似这些随之而来的社会问题值得警醒。

对新技术发展进行预先研究

AI巨大的冲击力,突出体现了20世纪下半叶兴起的新科技革命的一大特点,即新科技的影响深入到社会每个角落,与每个人的日常生活密切相关。这正是新科技发展日益成为公共事件的根本原因。当前,新科技不仅满足于改造外部世界,它的力量开始深入人类社会,包括人的肉身与精神。在社会运行层面,当代社会已然成为技术治理社会,尤其是智能治理社会。在个体生存层面,基因编辑、人体增强和脑机接口等新科技,不断引发世界性的关注,其中蕴含的改造人自身身心的冲动昭然若揭。在技术新世界中,人必定成为技术的重要场域。因此,智能革命方兴未艾,人与技术的关系正在发生不可逆转的改变。

有关新科技的影响,有人发现,人类总是在短期内高估它们的社会冲击,却低估它们的长期效应。关于新科技的风险,也有科学家谈到,在没有充分应用之前,很难预料它们可能导致的社会风险;但当新科技风险充分暴露之后,却已经错失控制风险的良机。在某种意义上说,人类的未来命运可以归结为在新科技锻造的新世界中冒险。因此,一系列AI新工具大规模应用之前,必须对它可能导致的社会冲击和科技风险进行认真、全面和深入的预先研究,逐步推进,努力规避,实时调整,寻找适合本国国情的发展之路。

AI发展须以人为本、以善为根

无论如何,都不能将AI发展问题仅仅视为纯粹的技术问题。应对新科技风险,必须同时考虑远景和现实两方面。从远景来看,解决这个问题,将牵涉到人类社会制度的根本性变革。机器人理论能够取代人类劳动,并不等于实际取代人类劳动。从本质上说,解决AI导致的失业问题,要不断减少劳动者的工作时间,给人们更多的闲暇时间,最终必须要彻底消灭剥削制度。20世纪的劳动史表明,现代科技在生产中的运用,持续减少着总的社会必要劳动时间,推动“八小时工作制”和“双休制”被越来越多国家所实施。

从现实来看,社会发展要历经很长时间,也要等待智能技术不断地发展。正如《教育的未来:人工智能时代的教育变革》作者约瑟夫·E·奥恩所言:“人类在应对技术和社会变革时,总是以改善教育作为回应。”教育是应对AI失业的重要措施,教育需要努力培养出适应AI辅助生存社会的劳动者。

总之,面对新科技风险,人类必须行动起来。应该有所为、有所不为,走AI发展的有限主义进路。而哪些为、哪些不为,应该由全社会共同决定,而不是科技狂人和大资本说了算。AI的发展须以人为本、以善为根,为人民服务,为提升社会福祉而努力。

(作者系中国人民大学吴玉章讲席教授、国家发展与战略研究院研究员)

2024-03-27 ■刘永谋 1 1 文艺报 content74039.html 1 不能将AI发展视为纯粹的技术问题