学完这一课
学完这一课
05. 亲人离世,我们有权用AI“复活”吗?
27:59
7
大家好,我是王小伟。
欢迎收听由辉瑞中国与看理想联合推出的《学完这一课》。先介绍一下我自己,目前我在一所大学教书,我的主要研究方向是技术哲学和科技伦理。平时我也开中外科学技术史、科学技术哲学专题、技术哲学前沿文献阅读等课程。
在节目开头,为了更容易进入这集的主题,我和大家分享个事儿。
今年4月,《看天下》发表了一篇名为《走不出悲伤,他们决定用AI复活亲人》的文章。现在有很多人在亲人去世后,尝试用AI技术复活他们的亲人,以此缓解对亲人的思念。这篇报道举了许多这样的例子。比如一个做这方面的团队,可以收到用户提供的亲人音频和照片后,克隆出来用户需要的声音,再形成亲人的视频。或许未来,等“AI复活”技术更成熟后,用户还可以跟亲人在线交流。
当时《看天下》也采访了我,我和这篇报道的刘瀚琳编辑聊了很长时间,交流了很多看法。其实,今天,“AI复活”已经逐渐发展成为一个现实的产业了。现在在网上花9块9就能体验一个比较粗糙的AI复活版本。如果愿意花更多钱,效果会更好。通过保存亲人生前的资料,如声音、视频等,输入系统后就能训练出一个更接近亲人的“数字人”。
我不知道各位听众会不会选择用AI复活亲人来缓解哀思?这里面涉及许多非常具体的问题,这也是一个典型的科技伦理案例。
我们今天这堂课的最后部分会对此进行初步的探讨。由此可见,技术哲学里面的科技伦理研究与我们的日常生活息息相关,它并不是一个抽象的学问。而相比于那些抽象的哲学问题,其实这类技术对生活世界的影响,也是我个人更关注的领域。
技术与科学不一样吗?什么是技术哲学?
在这集节目中,我们重点要谈谈技术哲学。我知道对于大多数人来说,这个词都是有些陌生的,如果从历史上看,技术哲学的研究历史相对较短。1877年德国学者卡普出版的《技术哲学纲要》,被认为是以技术作为专门的哲学研究对象的第一本书。哲学家Wilfrid Sellars曾经对哲学进行了定义。他说,哲学研究的内容是最为一般的事物是如何按照最一般规则结合的。也就是说,哲学并不关注具体的、个别的事物,而是研究最为普遍的东西。那技术哲学无非就是问什么是技术。比方说,我们身边有各种各样的技术,对吧?比如手机、钱包、飞机、计算机等等。那为什么这些东西的样子都不一样,但我们却都称它们为“技术”呢?所以,我们需要去思考一个更为普遍的问题:技术究竟是什么?是什么让我们能够识别出这些看似不同的事物,并将它们归类为“技术”呢?
在日常生活中,我们常常将科学和技术混为一谈,称之为“科技”。因为在中文里,“科技”是一个专门的词汇,涵盖了科学与技术。然而,在英文中,science 和 technology 是两个独立的概念。严肃地研究技术时,我们会发现技术与科学之间有着显著的差距。比方说,牛顿的万有引力定律指出,引力与质量的乘积成正比,与距离的平方成反比,这就是一个科学,它揭示了自然界的规律。但是,当我们把火箭发射到太空时,这就是技术,它实际上是对科学发现的自然规律的一种应用。
通常,我们认为科学主要研究认识问题,而技术则注重发明。或许你还会问:技术与工程有差别吗?科学负责认识,技术负责发明,而工程则主要关注建造。就比方说我们的高铁建设吧,里面就有科学、技术和工程三方面的要素。
在科学层面,高铁中的空气动力学(如何减少高速列车运行中的空气阻力),以及声学(减少高速列车产生的噪音),高铁需要在高速运行中保持稳定,这涉及力学原理的研究,像流体力学、摩擦学等物理学科的知识,这都是科学。
在技术方面,中国高铁在信号系统、列车自动控制系统、牵引供电技术等方面的技术突破,都是技术创新的体现。这些技术使高铁能够安全、稳定、高效地运行。工程则是将科学原理和技术发明付诸实践,进行大规模的建设和实施。中国高铁网络的实际建设,涉及铁路的规划、线路的铺设、桥梁和隧道的建设、车站和交通枢纽的设计与施工等,这些都是工程实践的具体体现。
除了从技术的划界上追问技术,我们还可以从技术的“本质”上追问技术。在一般通俗的语言中,当我们问“技术是什么”时,常见的回答是:技术是工具。那么,什么是工具呢?工具可以被理解为一种手段,在技术中,它是一种物质性的手段,帮助人类实现特定的目的,而且这种手段非常有效。
如果我们进一步探讨,可能会问:工具性有哪些特点?例如,人工智能被认为是一种技术,是一种非常有效的工具。但如果你捡起一块石头,用它去打鸟,这块石头算不算技术呢?当石头在地上时,它只是石头,但被人捡起并使用后,它似乎又成了技术的一部分。因此,我们可以继续深入探讨这些细节。显然,并不是人类所使用的所有工具都能被称为“技术”。只有那些具有较为复杂物理结构和功能的工具,才能称为技术。深入探讨这些问题,实际上就是分析的技术哲学研究的重要内容。
相对比较偏分析的技术哲学,现象学的技术哲学对于技术的探讨方式非常不同。比如,现象学的代表人物马丁·海德格认为,技术的本质并不在于它是工具,而是一种生活方式,或更准确地说,是一种生存方式。这种生存方式是什么呢?它把万事万物都看作可以被任意操控的对象。比如传统的河道水车不会改变河道的流向,也不会影响河道的生态系统,它只是顺应河流,适度利用一部分水力资源。但如今的大型水电站则彻底改变了河道的流向,并且对周围地貌进行了根本的重塑,导致数万人迁移,生态也发生了巨大的变化。这实际上将河流完全视为一种可以任意操控的资源,河流的诗意、超越性等特性都被消除了。
海德格尔说现代技术的一个特征就是,无论是草木鱼虫、山川河海,甚至人本身,都被技术定制成了随时可以调动的资源。因此,现代技术对人类造成了一种异化的力量。大家可能不同意他的看法,这个没关系,重点是他的说法有没有激发你的思考欲望。我个人比较偏好人文一点的技术哲学讨论,技术哲学从这个角度说就是研究技术和人的关系,不是研究技术内部的一些功能性特征。
技术都是客观中立吗?人与技术的关系
在讲完了什么是技术这个有点复杂和烧脑的问题后,我们再来进一步讨论,技术与人的关系,这一部分是技术哲学最受欢迎,最引起关注,也最和我们日常生活相关的部分。
按照我们之前讨论的,技术可以被看作是一种工具。而人与技术的关系通常被理解为主体与工具的关系。在这种理解中,人作为主体,具有能动性。人具有自由意志,可以掌控自己的生活。而工具则是消极的、被动的,人在使用和操控工具时,体现的是一种主体与工具之间的关系。这种理解是非常现代性的,能够追溯到笛卡尔的“心物二分”和“身心二分”理论。
笛卡尔被认为是现代哲学的奠基人之一,他提出了这样一个观点:哲学的任务是找到最根本的依据。他认为我们可以怀疑一切,但不能怀疑我们在进行怀疑这一思想活动本身,因为怀疑本身就是一种思的活动,因此是不可置疑的。由此,他得出了“我思故我在”的结论。笛卡尔认为,思维能够指导身体,因此思维和身体之间的鸿沟就此被划定,无法通过纯粹的思维来克服。从此,人逐渐被视为一个独立的主体,并以此来使用外界的工具,这种态度就是现代性的基本特征。
在这种现代性的理解中,人和技术的关系被简化为单向的:人设定一个目的,通过实践理性生成实现该目标的操作原则,使用工具理性来组织各种要素,制造高效的工具,并最终通过这些工具来实现目标。这一套逻辑看似完备,似乎我们今天的世界也是这样运行的,但我们是否只需这种单向的关系就能完全描绘人与技术之间的互动呢?
我们可以进一步思考,我再举个生活中的例子,是否每个人都觉得自己是手机的主人?随着智能终端设备的广泛应用,我们有时会感觉到,手机也在某种程度上支配着我们。因此,技术不仅仅是被动的工具,它还在深刻地影响我们的日常生活。
关于这个问题,蒙特克莱尔州立大学哲学系的教授兼系主任,泰格·罗浩尔德,在去年出版了一本新书,《Distracted from Meaning: A Philosophy of Smartphones》我们试着翻译过来可以叫《从意义分心:一部关于智能手机的哲学》。
在这本书中,作者探讨了手机如何重塑我们的注意力,从而改变我们的生活体验。他特别讨论了手机对生活意义的剥夺。罗浩尔德指出,我们的生活意义是通过连贯的经验获得的,而手机不断打断这种连贯性,让我们不得不随时中断当前的场景来处理手机上的信息。这种打断实际上剥夺了我们形成深厚生活经验的机会,导致了意义感的缺失。
书中引用了许多例子来说明手机如何重塑注意力。例如,有医生因为使用手机而导致医疗事故。另一个有趣的例子是一个实验,测试了三组对象的认知功能。第一组把手机放在隔壁房间,第二组把手机放在包里,但包在同一房间,第三组则把手机放在手边视线范围内。结果显示,认知功能最高的是手机在隔壁房间的组,而认知功能最低的是手机在手边的组。然而最有趣的是,研究发现,即使手机不在视线内,只要知道它在同一个房间里,也会显著降低参与实验的人员的认知功能。
罗浩尔德在书的最后引用了实用主义哲学家杜威和美国现象学家伯格曼的理论资源,来分析手机如何不断打断我们的生活。他指出手机对生活的持续打断使得我们的人生经验在形成过程中频频出现空隙,导致无法发展出扎实的生活经验,从而引发了意义感的缺失。这也在一定程度上解释了为什么长时间使用手机会让人感到虚无。
另一个我们可以探讨的角度是技术与价值的关系。当我们说技术是工具时,通常会在前面加上一个形容词,即技术是“价值中立”的工具。这意味着我们可以将技术用于好的目的,也可以用于坏的目的。常见的例子如刀既可以用来做菜,也可以用来杀人。美国步枪协会的一个口号也是:“枪不杀人,是人杀人。”这表明,工具本身没有好坏之分,这是一种普遍的看法。
这个看法真的能够准确描绘我们当前的技术现实吗?我来举个例子大家琢磨一下。据说,俄国的皇太子曾经送给李鸿章一把金制的手枪。这把手枪非常漂亮,有一天,李鸿章在野外时突然想开几枪。猛抬头看见远处的村庄,心生恻隐,把枪又徐徐放下,怕打扰了这份宁静。这个手枪太精致太漂亮,但它就是用来杀人的,拿着它就想开。枪对李鸿章产生了诱导作用,这正印证了中国的一句老话:“身怀利刃,杀心自起。”这句俗语表明,不仅是我们在使用工具,工具本身也在影响我们。
因此,近年来技术哲学界的一些学者认为,技术并非价值中立,而是价值负载的。例如,有个思路叫“价值敏感性设计”(Value Sensitive Design,简称VSD)。这个理念认为,在设计产品时,应考虑其价值敏感性,因为技术会对许多价值产生塑造作用,还有“说服性技术”(Persuasive Technology)理论也抱有差不多的看法。
近来荷兰学派发展出的“道德物化理论”。道德物化理论认为,技术本身从来都负载着价值。既然如此,我们应主动将某些价值嵌入技术中,以便在使用技术时能够贯彻这些价值。举个例子,荷兰有一个设计团队叫“恒久设计”,道德物化理论正是受到这个团队的启发。设想我们想要践行环保价值,怎么做呢?当然,我们可以通过生产更加耐用使用周期更长的产品来实现。这样做当然是可行的,但可能还不够,因为我们总是想买时髦的、新的东西。恒久设计团队注意到,有些产品尽管非常耐用,但容易过时,最终还是被丢弃。他们设计了一些有趣的产品:一款沙发,使用一段时间后,沙发表面的图案会因人体的磨损而呈现出新的图案。这个沙发能常用常新,从而减少了被丢弃的可能性。这个沙发的故事,和李鸿章手枪的故事,从正反两面都在说明技术对人的影响。
我自己也认为技术并不是价值中立的。因为当你谈到技术的价值中立时,实际上你仍然预设了一种先验立场——认为人是主体,技术是工具。人是主体,因为我们有心灵活动,而技术则是没有心灵活动的被动工具。然而,从不同的抽象层次来看,情况可能不一样。比如说,人的胳膊和眼睛,从器官学的角度来看,它们是两个不同的部分。然而在实际的生存经验中,我们不会把胳膊和眼睛当作两个独立的东西。它们是互相协作、不可分割的。我们从不同的抽象层面来看就会有不同的结果。因此,从某种哲学的抽象层面来看,人和技术也不是两个独立的实体,而是互相构成的。
人在技术系统中不断做出决策,而人的思维和行为也很大程度上受到技术的直接影响。如果我们承认人和技术是互相构建的,那么所谓的“中立工具”就不存在了。技术始终对人产生规范性影响,和人类的生活世界紧密相连,直接关系到我们的主体性。
死者也有隐私权吗?AI复活亲人
最后,我们回到今天课前开头谈到的AI复活亲人的例子,一起来做一点探讨。
其实不只那篇新闻报道,我们国内有一个特别有名气的殡葬业上市公司,2023年,这家公司成立29周年时,相时而动,改变了自己的定位,转型为专注殡葬和生命科技的服务商。你很难想到殡葬业居然是一个科技行业。今年的清明节,该公司以“数智人虚拟发布”的形式召开了一场发布会,AI成了绝对的焦点。会上,这家公司展示了通过AI技术为知名媒体人曹景行复刻数字形象的案例。曹老师是知名主持人,有很多喜爱他的观众,自己留下来的视频很多。现在,借助第三代数智人技术,只需要一张照片和一分钟的语音,AI就能生成对应人物的影像,实时地模拟嘴部、头部和身体的动作。当然要做得细致,需要多一点数据,但这件事儿本身逐渐成了一个潮流。
从伦理的角度来看,AI复活亲人涉及多个复杂问题。首先我们可以谈谈隐私。死者有隐私吗?这就很值得琢磨。我们可以有两种对隐私的解读:第一种认为,所谓的隐私就是有一个隐私清单,其中列出一些具体的内容。侵犯了这些内容就被认为是侵犯了隐私。比如说,如果我们将一个人死后的形象列入隐私清单,规定其形象不能用于AI复活,那么如果有人这样做了,就可以说他侵犯了死者的隐私。然而,在当下法律语境中,只有活人有隐私,但伦理上,讨论过世的人的隐私也不是没有意义,我想这个大家都能明白,死者牵涉到的不仅仅是法律问题。
第二种隐私观认为,隐私涉及的是对自己信息流入和流出的自主控制。也就是说,我可以决定哪些信息分享给别人,尽管有些信息被很多人视为隐私,但如果我愿意公开,那就不算侵犯隐私。因此,从这个角度来看,死者显然没有隐私,因为他谈不上自主控制信息的事儿了。
除了死者的隐私需要被更多讨论,英国哲学家密尔的“伤害原则”对考察AI复活亲人或许也能有点用。根据他的伤害原则,行为的好坏取决于是否对他人造成伤害。死者显然不会再受到肉体上的伤害,但AI复活亲人是否会对死者的精神遗产或社会形象造成影响?另外,AI复活亲人会不会导致活着的亲属沉迷于和AI亲人互动,导致活人丧失了正常的社会功能?如果有这样的情况存在,这就显然对亲属造成了实际性的伤害。
再进一步,我们可以继续追问AI复活亲人可能会从根本上改变我们对死亡的理解。在一个通过AI复活亲人开展悼念活动的时代,死亡是否会失去其终极意义?如果人们普遍使用这种技术来悼念亲人,那么死亡可能不再被视为生命的终结,而是另一种形式的持续存在。这样,我们对生命的有限性的理解可能都会发生根本性的改变。
最后,我们要问在一个AI复活成为日常的时代,悼念的传统意义是否会丧失?如果悼念不再是追忆和缅怀过去的亲人,而是与一个技术复活的影像互动,那么这种悼念行为是否还能真正表达我们对逝者的尊重和怀念?
想必大家已经听出来了,我个人并不太能接受AI复活。我觉得,和科学技术的快速发展相比,人们在面对这些关乎生活根本的问题时,应该更为谨慎、慢一些。这并不是反对科技的进步,而是主张在使用特定技术时,保持敏感和自觉。很多时候,技术所提供的并不再是某种特定的服务,而是一种对世界和生命的态度。
我们不得不对此保持特别谨慎。设想如果有一代人是在AI复活的时代成长起来的,他们可能不会认真对待亲人的离去,因为他们会觉得反正还有一个AI的数字人存在。随着技术的发展,我们甚至可能会创造出仿真人。这样一来,亲人之间的生离死别的意义就会被逐渐消解,人们也不会真正面对这种深层次的丧失。然而,体验丧失正是厚重的生命体验中不可或缺的一部分。
说到这,我给大家分享一件事儿。有一次我去苏格兰的爱丁堡大学访学,顺便去访哲学家大卫·休谟的墓,走了很久才找到。在休谟的墓边,我看到一个神情黯淡的中国学生,是个女生,脸上带着一种挥之不去的忧愁。你说大冷天的谁一个人逛墓地啊。我就问她,说你干嘛来了。她说是参加一个关于悼念的研讨会。后来我才知道,她去的那个研讨会是由米歇尔·乔宾组织的。米歇尔·乔宾写了一本关于悲伤的哲学书,叫《悲伤:一部哲学指南》(Grief: A Philosophical Guide),专门讨论什么是悲伤。乔宾认为悲伤不仅仅是对失去的情感反应,而是一种重塑我们身份的过程。当我们失去亲人时,我们不仅失去了他们,也失去了与他们关系相关的那部分自我。悲伤成为适应这一失落的必要经历,帮助我们在这个改变了的世界中重构自我身份。悲伤提示我们什么是真正的自己,自己如何与他人的练习中逐渐走向完整。悲伤为我们提供了一个机会,让我们思考我们与他人之间的纽带以及人类生命有限和无常。这都是人得以获得丰厚生命体验的重要内容。
如果你觉得那本书太沉重,还有一本相对轻松一些的书,我最近出版了《日常的深处》。这是一本文集,大家不用把里面的观点当成真理。不过,它吸收了几十位技术哲学家思路,来审视我们当下日常生活中各种各样的伦理困境。希望给大家提供多一点视角。
最后,我想再留几个问题给大家。你觉得生成式大语言模型。例如ChatGPT, 文心一言,这些AI技术真的理解人类的语言吗? 第二个问题,如果有一天,所有的劳动都交给人工智能机器人来做,我们人类还剩下什么有意义的事情可以做呢? 第三个问题,如果以后我们可以自主决定,把自己的意识上载到云端,因此长生不老,而不仅仅是被亲人AI复活,你会愿意这样做吗?欢迎大家在评论区中留言。
感谢收听,再见📚
2024.10.15
手机扫码下载「看理想」App
参与并查看评论内容