互联网时代,「算法」这个词大家应该都听腻了吧。

基本上市面上的所有互联网企业,都有一套自己独特的算法,根据用户登记的个人信息和使用习惯,进行对应的服务推荐。

但如果机哥说,有的企业在光天化日之下,用自己的算法,为毒贩和人贩子提供便利,大家肯定会觉得非常不可思议。

而被指控做这些事情的,正是全球知名社交平台Facebook。



这个事情,还得从一个叫弗朗西斯・豪根(Frances Haugen)的人说起。

她曾经是Facebook「公民诚信项目」的经理,工作是净化Facebook的社区环境,打击平台上的假新闻和假信息。

但是在工作了一段时间之后,豪根发现Facebook做这个项目的原因,根本不是表面上看起来那么大义凛然。

相反,公司只是为了搪塞那些质疑的人,减少大家对Facebook假新闻泛滥的指责。

事实上,这个部门的权力非常有限。



弗朗西斯・豪根

举个例子,作为曾经任职于谷歌、Yelp(美国版大众点评)等企业的算法工程师,豪根精通系统算法上的各种问题。

按照她所在部门的指责,她完全有权力撤下Facebook上一些不健康的内容。但是很多情况下,Facebook出于营收的考虑,经常否决她的想法。

而在前段时间,豪根所在的部门甚至被整个裁撤。

So,豪根就选择向媒体公开了,大量揭露Facbook不作为的文件。

这里面,就包括前面说到的贩毒、人口贩卖走私的内容。

员工举报贩毒和人口贩卖页面Facebook不为所动

接下来的每一个字,可能都会让各位机友感到非常震惊。

首先是墨西哥黑帮卡特尔在Facebook上,招募杀手进行培训。他们有专门的页面展示自家的日常的奢靡生活,并以此来吸引同伙加入。

在内部员工反映了五个月之后,这个页面才最终下架。

期间,还发布了大量暴力血腥的内容。

墨西哥黑帮Facebook主页

而在中东地区,还有团伙利用Facebook广告为诱饵,欺骗并控制女性从事非法行为。

甚至是人口贩卖。

在豪根曝光的文件当中,他们不断向Facebook高层反映,请求处理这些令人发指的页面。

但得到的答复,往往是「理由不充分」。



这些事情基本上每天都在上演,只要有Facebook的地区,就有类似的事件发生。

就连在自己老巢美国,也有各种各样的边境偷渡团伙,依靠Facebook来开拓业务。

偷渡团伙Facebook主页

当然啦,Facebook确实很难时刻盯着这些团体开设账号宣传,大家只能够要求它尽到维护网络环境的责任。

只要这些内容无法传播,或者及时删除,那么完全能够把危害降到最低。

但Facebook的推荐机制,却为这些团伙提供了极佳的扩散渠道。在用户浏览的时候,平台会提供大量同性质的页面。

这就意味着,如果不完全端掉所有违法犯罪团伙的页面,它们还是能借助Facebook死灰复燃。

系统推荐「相关页面」

如果仅仅只是页面推荐,那么这些违法犯罪行为的扩散范围,还不至于那么大。

但配合上Facebook的算法,用户即便不关注同类型的账号,也会被迫收到这些信息。

啥意思呢?

在Facebook的机制里,用户的首页会显示好友、群组成员发布或点赞的帖子。

而算法则会根据各种各样的条件,来决定优先展示其中的部分内容,用户只能被动接受这些信息。



像是在2009年的时候,Facebook算法中权重最高的是点赞数,所以即便你对这些内容完全不感兴趣,它依然会在你浏览时优先展示。

到了2016年,Facebook考虑得更多的是完成率,也就是说大家都看的内容,Facebook会硬塞给你看。

后面的几年里,这个算法修修补补,但大差不差。

简单来说,Facebook预测大家最关注的内容,也会引起其他的关注,最终提升用户活跃度。

但这套算法却给有心人,提供了一个钻空子的机会。



说到这里,机哥就要提一下巨魔农场(Troll Farm)了。

在国外,巨魔农场指的是手握大量社交媒体账号的组织,能够在互联网上大量发帖来进行造势。

也就是我们熟悉的水军。



可能机友印象当中的水军,作用就是发布一些充场面的帖子,毫无任何影响力可言。

但是借助Facebook的算法,巨魔农场的水军却能够为各种违法犯罪行为推波助澜。

首先,他们会通过大量的账号,渗透进入各种各样的Facebook群组。

这样一来,账号发布的内容,就会出现在所有群组成员的首页里。



一旦巨魔农场接到新的单子,他们就会发布大量相似的内容,迅速让这些内容触及到用户群体里。

接下来,通过自身水军和一些围观群众的互动,这些内容就很容易实现裂变,并且获得更高的展示权重。

如果巨魔农场掌握的账号足够多,他们甚至能够很快地席卷一个城市、甚至一个州的用户Facebook首页。

这就好比一个不吃香菜的人,被硬塞了一嘴香菜,而且你还不能拒绝。

除非你把好友全部删除,退出所有群组,代价非常大。



这种方式,已经被证实推动了各种假新闻,在整个社会群体当中传播,影响非常广泛。

而如果精准定位各种群组和账号的属性,则很容易成为各种犯罪分子的工具。

例如在医疗群组里贩卖违规药物、进行诈骗;在边境城市的群组里,组织各种走私、甚至贩卖药物和人口的勾当。

他们甚至还能在Facebook这套算法的基础上,自己组建一个小型的社交网络,控制各种违法信息的发布和扩散。

真是细思恐极。



其实在豪根披露这些文件之前,Facebook的这套算法早就备受诟病。

而现在看起来,除了算法不够严谨之外,说到底还是因为Facebook长期的监管不到位。

毕竟这些利于传播的内容,能够帮助平台获得大量的用户参与。这些数据拿到广告商面前,都是Facebook变现的筹码。

特别是在TikTok和其他社交平台不断崛起的今天,留给Facebook的空间或许已经不多了。

在危险的边缘疯狂试探,可能是没办法中的办法。



听证会上揭露Facebook的豪根

但是机哥必须说,如果因为这些原因,漠视了那些因为这套算法而蒙受损失的人。

那么这套算法,或许该给Facebook自己算算。

接下来,还有多少判头。