一贯重视用户体验的苹果公司,最近却在这上面栽了跟头。5月7日,苹果发布了新款iPadPro的广告短片《Crush》,画面中,一台巨大的液压机把书籍、乐器、颜料等物品以摧枯拉朽之势压碎,凝结出了迄今为止最轻薄的iPad。广告很快引发群嘲,网友纷纷质疑,为何技术的革新一定要以毁坏人们珍爱之物为代价?也有人上传了倒放版的短片——被损毁的吉他和钢琴恢复了原来的模样,这才更符合人们心目中的世界。


5月9日,苹果公司发布道歉声明称,“我们的目标一直是庆祝用户通过iPad将想法变成现实,这段视频没有切中要害。”只不过,在被技术牢牢掌控的今天,声明也显得于事无补。用电子设备代替真实创作工具已经是创作者的现实,直到苹果也将之视为理所当然,我们才惊慌地发现,“相信技术变革”与“恐惧技术毁灭人类”之间的张力已经如此之大,来到了难以调和的境地。


于是,界面文化邀请清华大学人文学院教授汪民安,从这则广告入手,探讨了现代化以来的技术变革,要以怎样的理论视角解释今日的技术。汪民安认为,技术既有毒性也有药性,人们的生死都置放在技术框架下,很难过一种完全逃避技术的生活,能做的只是尽量降低技术的毒性。


汪民安近照。图片来源:采访对象


我们当下所面对的一个现实是,技术的变化永远比想象中更快。就在汪民安回复书面采访的前一天,也就是5月14日,OpenAI发布了GPT-4o,它可以实时识别用户的情绪并进行语音对话,如同直接从科幻电影《Her》走出来的萨曼莎。这让人想起福柯对“人之死”的隐喻:“人将被抹去,如同海边沙滩上一张脸的形象。”只不过就如汪民安所说,今天的人工智能是在非常现实的意义上去预言人之死的。接下来人类的命运几何?答案仍在风中飘着。


技术带来了便利,也带来了恐惧


界面文化:你觉得观众对苹果广告的反应为什么如此剧烈?


汪民安:那个广告最直观的感觉就是暴力。技术肯定对人会产生暴力,但是,技术的暴力通常是无形的,是不可见的,甚至常常是被忽略掉的,因为技术在某些层面上还有明确的积极的意义,或者说我们看到和经验到的通常都是技术的积极一面。但是,这个广告表达的技术暴力如此地直接和粗鲁,它还有明显的反智倾向,看起来是对人类既有文明的践踏。人们当然会感到强烈的不适。


不过,我也要为这个广告辩护几句。广告提供的通常是幻觉和谎言——人们有时候需要幻觉,只有借助幻觉才能生活下去。这同样也是早期艺术的功能。尼采就说过,希腊悲剧的意义就在于它提供的是一个谎言世界,这个谎言可以让人们摆脱掉对真实生活的恐惧,因此,艺术(谎言)对人来说至关重要。一般来说,广告也是谎言,也是让人们能够心安理得地顺从地生活。这是人们对广告不满和抱怨的一个重要原因。但苹果的这个广告短片却不同凡响地去表达真实——人们不仅因为其中的暴力感到不适,人们也因为面对着真实而感到不适。或许人们已经习惯广告的谎言了。


界面文化:在短片中,液压机的形象让人联想起工业文明时期人被机器控制的不适和恐惧。然而,广告呈现的不再是工业革命,而是科技革命——所有的实体物都被数字化了。这样看来,我们如今的恐惧是对过往的延续吗,还是其中产生了某些变化?


汪民安:工业革命以来的技术经历了几个阶段。每一个阶段都产生了不同的控制效果。19世纪开始出现的机械化工业革命开始将人束缚于机器的节奏中。无论是个体还是社会,都是根据机器的运转速度而被动地运转。人的这种受缚状态,马克思主义传统做过最深入的分析,这就是所谓的“异化”或者“物化”。这样的控制基础是身体控制,或者说,是通过身体控制对整全的个体进行控制。


但是,到了20世纪中期,技术出现了一次变化。除了生产性的工业技术外,媒介技术有过一次大规模扩张。媒介技术的控制更多是记忆,视觉和精神方面的。麦克卢汉把媒介看做是人的延伸。人的延伸当然也可以理解成人的知觉和记忆能力的增强,但是,这种增强是靠技术来完成的,正是过度依赖于这些外在技术,我们也可以反过来把它理解成人的这些内在的自然能力的减弱。无论如何,媒介技术是通过控制身体的记忆和知觉来控制整全的个体的。它当然不是对工业技术的取代,而是和工业技术叠加在一起来进行更全面更总体性的内外控制。正是在这个意义上,60年代的社会被称之为后工业社会,或者也被说成景观社会、消费社会。景观和消费当然脱离不了媒介霸权。


今天的情况完全不同。今天是数字化技术的时代,所有的实体物都被数据化了,它在彻底重组人类的生活。数字化技术的影响是全方位的,每个人都有所体会。就像所有技术一样,它带来了太多的便利;但也像所有技术一样,它带来了太多的恐惧。你问的是人们对此的恐惧,我觉得最直接的恐惧,就是今天变成了一个透明社会。一切都是敞开的,一切都是透明的,甚至你的意愿和观念也都可以被大数据计算清楚,它们都不是什么隐私了。如果由我来给人类下定义的话,我会说,人应该是有隐私的动物。如果没有隐私,是不是也是一种人的消失?另一个恐惧,或者说是担忧吧,那就是人本身可能会彻底地发生改变。或者,我们更悲观一点地说,古典的人文主义意义上的人可能会消失。这也正是“后人类”这个概念流行的原因。


人工智能在现实的意义上预言了“人之死”


界面文化:你曾提到,福柯在1960年代预言了“人之死”,他指的是作为主宰地位的现代人之死,是隐喻上的死亡;而人工智能或许会引发另外一次“人之死”,人会变得愚蠢、不再主动思考。可否详细谈谈,两次死亡的区别和关联是什么?


汪民安:福柯提及的“人之死”,指的是人文科学所确定的关于人的概念的死亡。福柯的意思是18世纪开始出现了所谓的成熟的人文科学(human science),就是关于人的一套学说。这个学说对人有种种定义和主张,其核心是强调人的主体性和理性。但是,从尼采开始,一直到福柯本人写下《词与物》这本书的20世纪60年代,有大量的对人文科学有关人的定义的质疑和批判。所谓的人之死就是对这样一个人的观念的质疑:死掉的是作为主体的人和理性的人这样一种观念,而不是真正的现实的人。这类批判为今天各种各样的后人类主张奠定了理论基础。


但是,今天的人工智能是在非常现实的意义上去预言人之死的。人工智能的基础是控制论。早期的诸如维纳这样的控制论理论家,将生命理解为一套信息。这是一个颠覆性的观点:在这之前,人们把生命要么理解为物质构成,要么理解为力、能量、冲动或欲望,等等。而维纳等人努力将人理解为一套信息程序,一套算法模式,生命就是由算法、数据和代码函数等构成的。一切都是算法。如果是这样的话,具体的物质形象或者肉身,对生命而言不再是根本性的了,它们不过是附着在算法程序上面的临时载体。算法程序可以摆脱它们独自存在。正是基于这一理念,早期控制论理论家试图将大脑中的信息从大脑中提取出来,将它保存在另一个地方从而让生命变得不朽。


这样一个同肉身剥离的数据生命,它本身不带有观念、意识形态和人格,它和智能机器(计算机)类似,甚至可以与之结合起来。也正是因为它是一个数据,一个信息化的生命,它才可以和机器相类比。或者说,机器可以和它相类比,可以和它相结合。人和智能机器的界线就被打破了,二者没有什么本质的不同,二者之间的信息可以自由流动。如果人的肉身不重要的话,那么,传统意义上的人就不存在了。还存在生命,但不是我们一般意义上的人的生命。ChatGPT、AlphaGo都是这样的无身体的数据生命,这样的生命在很多科幻电影中也出现过。当然还有各种各样的有形的智能机器,它们由硅元素组成,能活动,能感知,比如无人驾驶汽车,它们同样也是计算生命。现在人们都担心,这两种类型的人工智能或者人工生命是否会取代或者否定肉身生命?也就是说,是否会出现一种现实意义上的人之死?


电影《Her》剧照。图片来源:豆瓣


界面文化:有观点认为,注重用户体验的苹果竟然没意识到这则广告的负面观感,说明技术进步的信念如此深入人心,以至于没人觉得不妥。但另一方面,人们又在担忧被技术奴役。


最近你的文集《亲密关系的核心是友谊》出版,收录其中的演讲稿《技术末世论》提到了这一矛盾,认为现代人会不停地实现潜能,直到那个临界点到来——技术能轻易地毁灭人类。你觉得我们来到临界点了吗?对技术的担忧和惊惧,是否说明我们终于从现代人的幻梦中醒过来了?你对技术整体抱着悲观的态度吗?


汪民安:进步论是现代性的一个核心法则。但是对技术进步的担忧在启蒙时期就出现了。卢梭在工业技术开始出现苗头的时候就意识到它可能带来的危险。但是,二十世纪成熟的规模化的工业技术已经显露出它的消极后果,这促使海德格尔和本雅明对技术进步做了更为深入的批判。不过,他们批判的着力点不完全一样。对海德格尔来说,技术对大地的开垦和索取会让人们最终无家可归。本雅明认为技术的进步不过是剥削的进步,是文化和道德的退步。


海德格尔的批判引发了大规模的反响,生态和气候问题现在成为最重要和最迫切的议题之一,哈拉维、拉图尔还有一大批人类学家实际上都在海德格尔的批判框架下工作。本雅明的技术批判关注的人不是很多,但是,我们只要看看当今的全球现实,就发现他非常有预见性。技术确实在进步,但是,全球范围内的贫富差距越来越大,科技巨头是为了财富而拼命发展技术的。对他们来说,技术的进步首先是一个积累财富的问题,或者说是一个市场竞争的问题,改进人类生活是附带目标。技术进步不过是富人的财富进步,技术的垄断者也是财富的垄断者。


从这个意义上来说,技术进步是不道德的,它确实是文化的退步。我们暂且不要夸大其词地说,技术进步会导致人的奴役甚至毁灭,会导致一个所谓的新的末世论,我们只要看看今天全球范围内的民粹主义扩张就知道它的负面作用了:无数诸众正在遭到技术进步的抛弃。每个人都感知到技术在进步,但并不是每个人都感觉到生活在改善。我的法国朋友告诉我,他们的生活水平不如上个世纪80年代,而这并非个别现象。


至于我们是否到临界点?事实上,不用考虑未来的人工智能,甚至不需要专业人士来告诉我们,我们只要自己体会一下我们反常的天气状况——我们不是每个人都觉得最近几年的气候越来越奇怪了吗?如果没有危机意识,如果不采取干预行动,真的会出现危险。但是我碰到过很多人包括一些受过很好教育的知识分子,认为气候变暖是一个假问题,是阴谋论。


界面文化:如今,科技的叙事似乎仍然受制于“控制或被控制”这一对立。你的《ChatGPT的互文性、生成和异化》一文谈到,人的语言被ChatGPT所统治,就像是曾经在车间的身体被机器的齿轮所统治一样。也常有人用福柯的规训理论来说明算法对劳动者的奴役。


可是,这些旧日的理论还能解释今天的技术吗?除此之外,还有其他更广阔的视角吗?与之相关的另一个问题是,在这个流媒体时代,人们越来越难以看完整的书、听完整的唱片,一切都是被压缩的和碎片化的。你怎样看这一现状?如果还执着于本雅明的“灵韵”之消逝,是否会错过当今时代本身的某些特征?


汪民安:我不怎么对理论进行新旧区分。很多新的理论都是建立对往日的理论的回跳或重读的基础上的。所有的理论都是开放的,不同的理论可以有跨时空的叠拼和并置从而形成一个新的理论。不要说福柯或者德勒兹的理论,更早的海德格尔的理论,黑格尔的理论甚至亚里士多德的理论,我觉得仍旧有强烈的现实意义。理论和现实的关系是灵活性的,一种现实并不意味着只能有一套理论来解释。所有的解释都是局部视角的,因为每一种现实总是呈现为多个层面和多个维度。


就算法奴役而言,你从不同的角度看,它展开的就是不同层面的问题。我们当然可以用规训理论:这是对身体每时每刻的管理;用德勒兹的控制社会的理论解释也没有问题:你一天必须有多少绩效,你最多可以达到多少绩效;你还可以用维纳的控制论:这是将人的生命看成是一套计算程序,和机器一样的计算程序;你也可以用马克思主义传统的“物化”理论和剥削理论来解释:这当然是一种新的剥削方式,当然是将人改造为一个开足马力的物质化的运输机器,当然也是资本家盘剥剩余价值的新手段;你还可以用加速主义理论,用德赛都的都市战略理论,甚至用结构主义理论来解释——你也可以将这些理论进行恰当的调和运用而发展出一套自己的理论来。


《亲密关系的核心是友谊》汪民安著重光relire·上海文艺出版社2024年


对碎片化阅读也有广泛的多样化解释。碎片化是19世纪大都市出现时就出现的现象。它当然不止是灵韵的消失,还是专注力的消失,是现代生活大漩涡的必然结果,是时空压缩的全新经验,当然也是对今天信息无休无止的生产和上传的一个必然回应,每个人都是无限信息洪流冲刷过的碎片。不过,我要说,虽然我是研究理论的,但我很少尝试用某一种先在的理论去解释某一种现实这样的工作方法。我更喜欢直面现实本身去描绘它,我越来越喜欢现象学的方法了。


无法完全逃避技术,可以尽量降低其毒性


界面文化:你曾在《论爱欲》中谈到巴迪欧对爱的观点:爱不是强行把所有都纳入“一”,不是控制和支配对方,而是承认异质性和混杂物的存在,并用对方的视角体验世界。所以,对爱欲的思考是否也能启发人与机器/人工智能的关系?


汪民安:这个我没什么经验,我只是尝试和ChatGPT对话过,它没有说出什么特别有意思的东西来。它提供的只是知识方面的,它总是在回应,总是被动的,它不会问你。


我希望有这样一种智能机器,它不停地问你,对你产生好奇,就像一个陌生人对另一个陌生人那样充满好奇。两个人可以不停的彼此追问彼此打听。只有互问,才能体现双方的二重性的差异视角,才能产生真正的交流、探索和爱欲。ChatGPT显然还没有达到这点。


它给我印象最深的是,你只要问它,它总有话可说,它甚至很啰嗦地说,它从不沉默。我还希望人工智能能够沉默,它不愿意回答你,或者它也不想再问你了。我和它的默契是通过沉默来达成的,就像两个朋友不想说话但默默地抽烟一样。


《论爱欲》汪民安著南京大学出版社2022年


本文来自微信公众号:界面文化 (ID:BooksAndFun),作者:尹清露,编辑:黄月