你有没有过这样一种体验?

如果你在百度上搜索了“性价比最高的电脑品牌”。很快,当你打开抖音、淘宝、微博或是其他软件平台时,你就会收到有关电脑的相关推送和广告。

如果我们把购买行为看作一个完整的过程,这些广告和视频信息推送在多大程度上扮演了服务的角色?又在多大程度上承担了传播诱导的作用呢?



图片来源自纪录片《监视资本主义:智能陷阱》

2020年9月,一部名为《监视资本主义:智能陷阱》的纪录片在 Netflix 平台播出,片中采访了谷歌、Facebook、Twitter、Instagram、Pinterest 等几乎所有社交网络大厂的内部人士,指出现代商业竞争逐渐从一开始的抢夺客户转变为培养客户,甚至是绑架客户。



图片来源自纪录片《监视资本主义:智能陷阱》

处于互联网笼罩下的人们,正在被人工智能、大数据、算法模型所控制,导致人类社会出现最近几年的分裂和混乱,如果继续演化下去,后果将不堪设想......

那么,这背后的真相究竟是什么?网络平台真的会带来这么大的伤害吗?



图片来源自网络



人类,成为被贩卖的产品本身


现代社会,互联网技术为世界创造了一些美好的东西,它们让失去联系的家人重聚,找到器官捐赠者,为整个世界带来了有意义、系统的变革,但与此同时,它的负面影响却被过度看轻了。

当我们看向周围的时候就会发现,手机与现代生活早已密不可分,数以万计的人们使用电子设备成瘾。



图片来源自纪录片《监视资本主义:智能陷阱》


硅谷的前50年,行业制造产品,将硬件、软件卖给顾客,而在过去的10年间,硅谷最大的公司一直涉足贩卖用户的勾当。

这是什么意思呢?

我们今天使用的社交软件中,没有一个产品需要用户在使用时付钱,我们用谷歌搜索信息,用 Facebook 了解好友的动态,用 Instagram 分享自己的生活,但我们没有意识到的是,这些产品无一不在竞争用户的关注。



图片来源自纪录片《监视资本主义:智能陷阱》


他们的商业模式就是让人们的注意力持续吸引在屏幕上,产品本身并不是免费,取而代之的是广告商们为此买单。

换言之,广告商是顾客,它们付钱,交换给用户展示广告的时间,而普通大众就成为了被销售的目标商品。



图片来源自豆瓣


那么,我们是如何成为一件市场上流通的商品的呢?

事实上,我们在网络上所做的一切都被监视着、追踪着、评估着,具体到你的目光停在哪一张图片上看了多久?你是哪一种性格?你的神经属于哪种类型?

他们所掌握的信息超越人类历史上所有的想象,前所未有。



图片来源自纪录片《监视资本主义:智能陷阱》


而大型技术公司对每个人去的每一个地方进行无限追踪获利,做出相应的行为模型,以预判用户要做什么,对什么感兴趣,以及我们是怎样的人。

接下来他们需要做的就是,尽可能利用收集到的用户数据保证广告商能够尽最大可能成功。



图片来源自纪录片《监视资本主义:智能陷阱》


在这些公司的运营模式中,大量地运用了心理学知识,企图在不经意之间影响甚至控制用户的行为。

当你下滑页面刷新,最上面就是新的内容,再往下再刷新又是新的,每一次都是,在心理学上称之为“正积极强化”。

它的原理就像是老虎机,你永远不知道下一条讯息是什么,并借此在你的脑中植入一个无意识的习惯——我只要用手下拉,就能获得些什么,并且这个“奖品”处于极具诱惑力的“未知”状态。



图片来源自豆瓣

举例来看,当我们在使用一些社交软件时可能会收到推送消息,「你的朋友@了你」,或是「你的朋友提到了你」,它完全可以在推送信息中展示完整的信息,但往往只有一个提醒。

它诱导你点进软件,查看详情,并理所当然地停留在使用界面。

这几乎是基于人性之上的「精心设计」,在不知不觉之中,他们收获了更多的用户注册、更高的参与度,能让你邀请更多的人,以及看更多的广告。



图片来源自纪录片《监视资本主义:智能陷阱》


他们给人们带来的便捷同时,也在影响着现实世界中的行为和情感。

我们P图,添加滤镜,渴望收获更多的「点赞」和「评论」,但实际上我们的生活并不需要交由陌生人审视,或是每五分钟就获得一次「社交认可」。



图片来源自纪录片《监视资本主义:智能陷阱》




假信息比真相更有吸引力


在网络平台上,从来不会缺少虚假新闻的身影。

我们已经从信息时代过渡到了虚假信息时代,作为人类,我们几乎已经失去了对这些系统的控制,因为是它们在控制我们看到的信息,而不是我们在控制他们。



图片来源自豆瓣

著名篮球运动员凯里·欧文曾说他相信地球是平的,后来又道歉:“很抱歉我相信了这个,我无意误导人们。”

很多人在听到这则新闻的时候可能会觉得好笑,但实际上,地球平面阴谋论被算法推荐了几亿次。

基于对人类认知的不断加深,算法每一天都在变得更加聪明。今天它们说服人们相信地球是平的,那么明天它们就会说服你相信另一个完全虚假的事情。



图片来源自豆瓣


有一项麻省理工的研究显示,推特上传播的虚假新闻要比真实新闻传播速度快6倍。试想一下,当一个人有着高于另一个人6倍的优势,这个世界会变成什么样?

2016年美国总统大选前,一则阴谋论的谣言在网络上流传甚广。没有受害者、没有任何权威性的媒体报道,却对当事人造成了巨大的伤害,这就是假新闻的力量。

谣言中说华盛顿一家披萨店的地下室经营着儿童性交易,犯罪网里涉及了很多人,其中就包括了希拉里和一些民主党高层人物。

随后,平台算法将“披萨门”新闻大量精准推送给了「阴谋论爱好者」和川普的支持者,由此掀起轩然大波。

甚至有一位28岁的青年因为相信了这则谣言,持枪抢劫了这家披萨店,所幸没有造成伤亡。事后警方介入调查的时候才发现,这个所谓的“贩卖儿童集中营”根本连地下室都没有。



图片来源自纪录片《监视资本主义:智能陷阱》


从「披萨门」事件中我们可以看到,社交工具的推送算法极大地增加了谣言的极易传播性,导致用户的信息接受面变得狭窄,接触的内容和用户都是和自身喜欢同一类内容的人,久而久之,用户就会觉得自己看到的就是真相,看不到也接受不了和自己持不同观点的人。



图片来源自豆瓣

去年新冠疫情在海外爆发的时候,各种极端谣言屡见不鲜,比如“多喝水能将新冠病毒从你身体中冲走”、“这是政府计划的事件,创造了这个病毒来模拟世界各国将会如何反应”、“根本没有人生病,一切都是骗局”,而这些虚假反智言论却积累了5200万人参与其中......

要知道,Facebook 有万亿个新闻推送贴,同样在微博上,我们也会碰到未经核实的假新闻大行其道,引发激烈争论。未受监管的信息被海量传送给世界各地的人,而它们的出发点往往只是为了卖出更好的价钱,并借此获利。



人们陷入自我的信息茧房


“只有两个行业将他们的客户叫做「使用者」,非法毒品和软件。”

大批量的信息已经形成了我们的政治和文化,而大多数人对此一无所觉。如今创造出的工具,正在开始侵蚀正常运转的社交纽带。



图片来源自纪录片《监视资本主义:智能陷阱》

纪录片中举了这样一个例子——联想搜索。

当你登陆 Google,在搜索框中输入“气候变化是”,你会看到,根据你所居住的地区不同会出现截然不同的结果。在某些城市,你会看到“气候变化是一场骗局”,有的则是“气候变化是对自然的破坏”。

这个功能提供的不都是气候变化的真相,而是算法基于对你个人兴趣的了解之后,自动推荐了它觉得你最有可能点开的词条。



图片来源自纪录片《监视资本主义:智能陷阱》


如果大数据知道你是个怀疑论者,算法就会告诉你,气候变化就是场骗局;反过来,如果大数据告诉算法你是个环保主义者,那它就疯狂地向你推荐气候变化的危害……

对于任何新的信息,在你还没形成思考的时候,算法就在一开始帮你决定了倾向。而伴随着你浏览的相关内容不断增多,原先工具向你灌输的观点也会逐渐强化。

在这个过程中,我们处理情绪的能力不断减弱,再也无法理解与自身所创造的世界观相悖的信息,洗脑也就自然而然地产生了。



图片来源自豆瓣

与此同时,情绪基于社交网络上泛滥的信息进行传播和放大,危险的模仿变得容易复制,推荐算法在不经意之间增加了个人行为的极端化以及社会意识的两极分化。

一些政府和其他不良人士把社交媒体当作武器,操纵性极端言论传播,并极可能导致真实的线下伤害。

其中最明显的案例就是2018年,缅甸一条“少数族裔强奸佛教徒女孩”的假新闻,经过数天时间发酵,好无阻拦地在 Facebook 上传遍缅甸。

在缅甸,人们普遍使用 Facebook,而 Facebook 真的为军人和其他不良人士提供了一种控制公众言论的新手段,并协助煽动针对罗兴亚族穆斯林的暴力行动。

铺天盖地的谣言迅速点燃了缅甸国内对移民而来的少数群体的敌意,很快,一场声势浩大的针对活动席卷而来:大屠杀、焚烧整个村庄、违反人道主义的大规模强奸和其他严重犯罪行为,最终导致了70万罗兴亚族穆斯林逃离这个国家。



图片来源自纪录片《监视资本主义:智能陷阱》

技术并不是人类存亡的威胁,是技术能够把社会中最坏的东西带出来的能力才是真正的威胁。

人们只认同自己认同的信息,拒绝交流也拒绝接纳,在各自的信息茧房里,孤独、疏远、更加两极分化。

“我们很可能会因为故意无知毁掉我们的文明;我们或许无法应对气候变化的挑战;我们或许会瓦解世界的民主,最后衰落成一种奇怪的独裁技能障碍;我们或许会毁掉全球经济;我们或许会无法存活......”

这或许就是占据我们生活和时间的软件工具最终带给人类的致命毒果。



图片来源自纪录片《监视资本主义:智能陷阱》



大数据时代的到来让各种 APP 侵占人们的生活,窃取相关数据,其背后隐藏着各种心理学、传播学及营销学知识和大数据算法,源源不断地创造热点影响人的价值观走向,而人类显然还没有做好面对人工智能的降维打击。

人和互联网究竟谁是工具,谁是主宰者?身处其中的我们可能很难分辨......

正如纪录片中说的那样:“进入凡人生活的一切强大之物,无不具有弊端。” 当一项先进技术被世界滥用,全人类裹挟其中而未知,未来将处于一片迷雾之中。