年初至今股价跌超42%的社交媒体巨头Meta(原Facebook),日子越来越不好过了。据彭博社6月4日消息,有着“脸书吹哨人”(Facebook Whistleblower)之称的Meta前雇员豪根(Frances Haugen)在做客访谈节目时,再度炮轰自己的前东家。

豪根表示,脸书的算法推动了仇恨等言论的蔓延,并将青少年等用户群体导向有害内容。有证据显示,该公司对其产品可能会带来的风险心知肚明,但是他们却没有与之适配的应对措施。Meta如果想要恢复元气,那么其掌舵人扎克伯格必须下台。



彭博社报道截图

豪根提到,虚假内容或者煽动性内容,往往会通过基于点赞等互动指标的推荐算法快速传播。不过,这一推荐算法并非Facebook或者Instagram所独有,风靡美国的Tiktok等短视频平台,也会通过互动情况来预测用户偏好,并推荐更有可能被喜欢的内容。但如今,这些算法正在招致越来越多的调查和监管。

脸书之“祸”,未来是否会演变成对整个社交媒体平台的追问?

在原有内容监管的基础上,全球社交媒体平台,是否将步入“算法监管”时代?

脸书吹哨人:扎克伯格失职,他得下课!

2021年,离开脸书的豪根向美国证券交易委员会(SEC)和《华尔街日报》披露了数千页脸书内部文件,同时指控前东家“知道自己的平台是如何被用来传播仇恨、暴力和错误信息的,但一直在试图隐藏这些证据。”在上周六(6月4日)的访谈节目中,豪根再次谈到了此事。

她表示,Meta知道自己的产品正在损害青少年的心理健康、在埃塞俄比亚等国煽动种族暴力,却没有作为。此外,它在去年1月6日华盛顿特区骚乱发生之前,也未能遏制错误信息的传播。



“脸书吹哨人”豪根 视频截图

豪根补充说,面对Meta旗下产品中良莠不齐的各式内容,扎克伯格一直“真诚地认为Facebook只是现实的一面镜子”、“你不开心,是因为你现在看到了它(而不是因为这些不好的内容不存在),不愿意积极进行干预。

豪根还补充称,当她告诉扎克伯格,公司对含有种族灭绝等内容的相关审核不够有力时,扎克伯克却依然在加大对元宇宙的投入,而不是让脸书的系统变得更加安全,“我认为这是一种失职行为(a dereliction of duty)。”

与其他大多数上市公司不同的是,扎克伯格现在该公司拥有56%的投票权。“现在除了马克·扎克伯格,没人能控制Facebook。”当被节目主持人问到扎克伯格是否应该离开时,豪根回答称:“我认为,只要扎克伯格是公司的领导者,那么公司就无法复苏。”

“将利润置于安全和幸福之上”?扎克伯格:我不是,我没有

豪根发表上述言论之际,昔日的社交媒体巨头脸书,正从“舒适圈”上陨落。去年四季度,脸书的日活用户数达到19.3亿人(预期19.5亿),月活用户数为29.1亿人(预期29.5亿人),该公司旗舰APP的日活数据首次出现环比下降。

加上侵犯隐私等丑闻缠身,脸书公司的麻烦越来越多。短期内要扭转负面形象很难,广告生意也没有以前好做,去年年底,脸书公司改名Meta,全面征战元宇宙。只不过这条路依然艰难。

财报显示,Meta旗下专攻“元宇宙”的Reality Labs部门2021年亏损102亿美元。在今年2月,脸书母公司Meta又遭遇了自成立以来最严重的单月股票价格下跌,跌出了全球市值前十的行列。时至今日,其股价相较于历史峰值已经腰斩。



昨日收盘,Meta股价收报194.25美元 谷歌财经截图

结合豪根之前的指控来看,她指责脸书为追求“天文数字的利润”,而故意将用户置于危险之中:脸书聚焦的广告销售业务,基于用户互动。这意味着脸书会不惜一切代价,让用户留驻在其平台上——即使脸书知道,用户频繁互动的这些内容是有害的。

脸书审核规则和算法“利润优先”,身为公司掌舵人的扎克伯格难辞其咎。Meta想要走向复苏,那么Meta必须“换马”,让扎克伯克下课。不过这样的诉求已经不是第一次出现。早在去年,扎克伯格就明确否认了脸书“将利润置于安全和幸福之上”的指控。

扎克伯格表示,脸书要通过广告赚钱,广告投放者明确提出:他们不希望自己的广告,出现在有害或者有愤怒情绪的内容旁边,因此“推送愤怒内容是为了赚钱”这样的商业逻辑说不通。“我不知道有哪家科技公司开发产品的目的,是为了让人们感到生气或者沮丧。”对于青少年容易受到脸书消极影响等指控,扎克伯格也进行了否认。

对于煽动性或仇恨内容破坏了美国民主的指控,扎克伯格表示:这口锅脸书不背。扎克伯格认为,社交媒体并不是美国两极分化的原因,脸书30亿用户中的绝大多数都在美国本土以外,并没有看到社交媒体助长了这些国家的两极分化和社会分裂。



在去年美国国会山暴乱发生后,不少人指责社交媒体纵容了煽动内容的传播

扎克伯格指出,很多问题并非是脸书不作为,而是美国的有关立法和监管不够完善。

扎克伯格称,在用户年龄限制和验证要求,以及平衡青少年隐私与父母知情权等问题上,美国国会应当承担更大的责任。“与平衡其他社会问题类似,我认为私营公司不应该自己做出所有决定……这就是为什么我们多年来一直倡导更新互联网法规的原因。”

从这个角度出发来审视整个行业,不难发现如今全球范围内,社交媒体监管正在不断升温。公众的关注和追问,也正在从一款产品、一家公司,转向多家公司和行业,转向算法本身。

脸书失火,殃及Tiktok?推荐算法成关注焦点

脸书和推特在美国引发监管争议,大潮之下,TikTok等平台很快也中枪了。

今年3月,包括加利福尼亚州和马萨诸塞州在内的美国八个州宣布,他们已经在全国范围内对中国字节跳动旗下TikTok发起了一项两党联合调查,重点是调查TikTok是否对年轻人的身体或心理健康造成伤害。

值得一提的是,推荐算法问题被单独拎了出来。

马萨诸塞州总检察长希利(Maura Healey)的办公室声明称,此次调查将查明TikTok对自己在延续这些伤害方面所发挥的作用了解多少。“调查的重点之一是TikTok为提高年轻用户参与度所利用的方法和技术,包括增加用户在平台上花费的时长和使用该平台的频率。”



福克斯商业新闻报道截图

长期以来在外界眼中,TikTok能够席卷欧美,它的算法优势功不可没。

2017年,原TikTok和Musical.ly合璧,字节的算法和运营优势,以及Musical.ly的产品和内容优势产生了合力。在烧钱圈地和全球疫情等背景下,TikTok迎来了大爆发。TikTok一刷就停不下来,很多用户感慨:这软件简直比自己还要懂自己。

2021年,纽约时报发表《TikTok是如何让你上瘾的》一文。文章其中一段写道:“……人们惊叹这款应用对自己内心生活的透视能力宛如X光,在众多相关标题中,有一个叫《TikTok的算法比我更了解我的性取向》。”

“TikTok的算法为什么可以吸引用户”,成为各界津津乐道的谈资。从公开内容来看,TikTok推荐算法的参考因素包括点赞、评论、标签等等。虽然看上去都是很“常规”的东西,但在美媒看来,事情远远没有这么简单。

《纽约时报》称,一份文件对其透露称,为追求公司增加日活用户的“终极目标”,TikTok对提供给用户的视频内容流,选择性地优化了两大密切相关的指标:“留存率”(用户是否回访)以及“访问时长”。这意味着:这款应用希望你在其中停留得越久越好。文章称,这种体验有时被描述为一种“瘾症”。

《华尔街日报》称,TikTok在很大程度上依赖你观看每段视频的时间,来引导你浏览更多可能会喜欢的内容,一些青少年在这个过程中,被误导引向那些宣扬自杀、自残的危险内容——尽管TikTok正在应对这些问题。

在全球各国加码社交媒体监管的当下,相比于对脸书和推特上有害内容的追问,对TikTok的很多质疑更多出自算法层面:当一款社交软件不断“认识”和“讨好”用户的同时,它是不是也在诱导或者误导用户——哪怕这种“塑造用户”的结果,绝非推荐算法的目的,或者这家公司的初衷。

互联网不是法外之地,社交媒体监管让人头疼

直观来看,现在的社交媒体监管问题将分为两部分:前一半是“你喜欢什么,就给你推荐什么”的算法机制,为什么管理起来很麻烦;后一半问题是,人类社会能否抛开这些涉及人性的、人文的、社会的因素,从技术出发,尽可能找到一把客观的监管尺子。

包括短视频平台在内,社交媒体往往喜欢推送那些点赞、评论和分享更为活跃的内容,并根据用户的喜好推荐相似或者相近的东西——在商业逻辑上,这也意味着它可以形成更大的流量,获得更多的广告收益。脸书、推特、油管(Youtube)也好,还是近年大火的Tiktok也罢,流量就是金钱。包括社交媒体平台和在线购物平台在内,很多互联网企业都离不开这个重要的逻辑基础。

可是在现实生活中,问题很快一个一个出现了:

平台要想获得更为精准的用户画像,就必须获得更多有关用户的信息,那么侵犯隐私往往就在一线之间;谣言或者煽动性等有害内容,往往可以吸引大量互动,更容易提高自己的曝光率,形成流量循环。同理,那些猎奇的,甚至是包含色情或者暴力等内容,也更容易受到一些用户的追捧,并得到传播。

平台不能不作为啊。一作为,问题就麻烦了。

在逻辑上,这甚至可以直插“言论自由”的要害:

如果将社交平台视为言论自由的广场,那么有争议的内容应不应该放出来?再进一步,如果有些内容不应该被放出来,那么应该用什么标准来裁定哪些内容可以放,哪些内容不能放?更进一步:谁来掌握这份可以影响到公民“言论自由”的权力,是互联网企业,还是当地政府?这份权力应该由谁赋予,又应该由谁监督?

何况有些内容连定义它是否“有争议”都很难——毕竟你很难说那些分享身材、美食或者美景的帖子,就因为它们可能会加重攀比心理、他人焦虑或者(由贫富分化带来的)社会割裂,就要被关进“小黑屋”。就拿美国国内来说,对受第一修正案保护的“言论自由”定义非常宽松,可能连美国人自己也没整明白。



“马斯克也不知道他说的言论自由是啥” VOX报道截图

社交网络平台会通过虚拟世界对现实世界产生影响。棘手归棘手,监管是绝对不能缺位的。这些年来,我们不难看到,我们国家在互联网社交平台监管方面,出台了一系列政策和措施,不断去引导和规范这个行业的发展。

值得说明的是,即便是在欧美国家,互联网也不是“法外之地”:在美国,有国土安全部旗下的“社交网络监控中心”,专门监控脸书、推特等社交媒体信息;还有《网络安全信息共享法案》,以及美国哥伦比亚特区和49个州司法部长的跨州协议。

欧盟委员会于2011年和2018年分别发布了《欧盟更安全的社交网络原则》、《应对在线不当信息:欧洲的方法》和《不当信息行为准则》;英国有《在线社交媒体平台行为准则》和《在线危害白皮书》、德国有《社交媒体管理法》……

但是在美国等地,对社交媒体监管不力的担心,从来没有停止过。

今年5月,美国得克萨斯州尤瓦尔迪市罗布小学发生恶性枪击案,造成至少21人死亡,其中包括19名儿童,而凶手是一名18岁的高中生。最新的调查显示,18岁的枪手在行凶前,曾在社交媒体上透露自己的计划。这再一次撕下了美国的遮羞布。

算法是顺应人性而生的。人性不可测,但是技术起码是可测的吧?那么从算法出发,能不能为社交媒体监管打开第二扇门?事实上,包括中国在内,一些国家和地区确实这么想,也这么做了。

美媒:中国的算法监管值得借鉴

2021年9月,中国网信办下发关于印发《关于加强互联网信息服务算法综合治理的指导意见》的通知。文件提出,利用三年左右时间规范算法的使用,成为算法监管的先行者。

文件问世后,很多内容马上受到了国内外的关注。比如国家介入划定责任红线,建立顶层设计;树立算法正确导向,防止算法干扰舆论;首提算法分级,为精准治理、算法备案打基础……这些内容和思路,引发了各界热议。

《华尔街日报》称,监管算法面临的最大问题是算法非常不透明。一方面,现在很多决策是由通过处理大量数据来学习的机器做出的;另外一方面,嵌入训练数据中的偏见,可能在不知不觉中渗入决策过程。算法也可能狭隘地专注于某些目标,“比如放大病毒式传播内容,而不考虑其他影响。”此外,算法的不断更新也加剧了监管的难度。

在《华尔街日报》看来,中国的这份全面的算法监管计划,或将为西方提供借鉴:我们应该从哪里入手,又应当避免哪些雷区。文章还称,这份文件最终落地后,甚至将从根本上改变Tiktok等成功互联网企业的业务模式。

与此同时,自2022年3月1日起施行的《互联网信息服务算法推荐管理规定》,明确了算法推荐服务提供者的用户权益保护要求,包括保障算法知情权,要求告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等;保障算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项等等。

算法监管,正在从技术的角度出发,对包括社交媒体平台在内的互联网治理提供一扇窗。

在美国方面,从2017年美国计算机协会公共政策委员会发布的《关于算法透明性和可问责性的声明》,到2021年7月,美国总统拜登签署的行政令,都在聚焦对美国平台算法的规制。但是,在全球范围内,社交媒体今后是否将迎来内容监管和算法监管的联合治理时代,依然有待时间来解答。