疫情期间,社交软件QQ推出了一款可用于“线上自习”的多人直播产品:QQ自习室。进入“QQ自习室”,网友可以分享自己的学习场景视频,在评论区互动互相加油打气等。

  但在近日,澎湃新闻发现,在这样一款以学生为主要目标用户群体的产品中,有极少数用户利用QQ自习室传播淫秽色情内容。





  针对这一情况,1月27日,QQ团队作出回应,称经自查发现确实存在少量恶意用户发布低俗内容及进行黑产引流。目前,QQ已经关闭了深夜自习室(23:00-8:00)的评论功能,提出进一步收紧评论尺度标准、提升用户加好友门槛。

  从产品功能来看,QQ自习室的使用群体以学生为主,进入QQ自习室可见,有大量中考、高考、考研为主题的自习室。进入一个自习室后可“上麦自习”也可直接“入座自习”,在评论区与其他自习的网友交流,系统会记录用户自习的天数与时长。



  澎湃新闻记者随机进入一间自习室,评论区出现了为淫秽色情引流的“暗语”:诸如“8.88”、“加群”、“懂的加”,甚至有用户主动问:“有东西吗”,下面则有人回应称:“私我”。



  对于为何未能及时识别这些疑似涉黄内容,QQ团队称这是“不同语义变化以及文本的变种对抗”导致的延迟打击问题。据了解,QQ自习室评论有着脏字过滤系统,以及机器文本安全模型的识别,并采取了技术风控手段和人工巡查结合的方式,但专业黑产团伙在作恶时,会想办法绕过平台安全策略,发送擦边评论内容进行引流。

  在通过“暗语”吸引目标用户后,黑产会引导用户添加好友私聊的方式,进行色情内容传播。



  QQ方面表示,将通过提升用户加好友门槛的方式,对于加好友实施涉黄引流进行打击。可采用的方式有:加好友增加自习室用户的打卡自习时长要求、非长期自习用户不能加或者被加好友等。

  但该方法能杜绝产品被黑产利用吗?QQ团队向澎湃新闻记者介绍,QQ鼓励用户在发现违规信息时,对相关违规账户进行举报。“我们呼吁用户增强信息安全意识,对违法违规帐号和行为进行举报,一旦发现并核实立即封停。对于情节严重者,还将向司法机关举报。”

相关报道:

危险的网络世界在知乎一个关于「某聊天软件自习室功能是否好用」的提问下面,刚刚高中毕业的陈佳在她的回答里回忆起半年前自己经历的恐怖一幕。疫情期间,在家进行高考复习的陈佳无意中发现了某聊天软件的自习室功能。用户可以选择进入自习室,与多位网友一同开视频直播学习,起到自我监督的作用。陈佳的第一次体验是出于好奇,她想尝试在疲惫的时候跟更多人一起学习,督促自己忽略手机。

当她几天之后第二次打开这个功能的时候,事情就发生了奇怪的走向。早上八点多,陈佳进入随机分配的自习室。在只有她一个人的自习室里学习几十分钟后,新加入的画面引起她的注意。

光线很暗,画面里不是一个人的脸,再仔细观察,是一个男性在抚摸自己的胸部。陈佳被吓到了,立即点击退出。

就在她认为自己遇到了「变态」只要换一个自习室就好的时候,切换到另一个由两位初中生陪同的自习室之后,更令她害怕的事情发生了。大约自习半小时后,她在摄像头里看到了一位男性裸露的生殖器。

陈佳感到惊慌,来不及提醒其他两位初中生,立刻退出,再也没有打开过这个功能。对于陈佳而言,这好像是个完全随机的事件,她不知道自己是如何被选中的。事后回忆这段经历的时候,她也无从得知,藏在屏幕背后的,是好奇和冲动的学生,还是不怀好意的成年人。

陈佳去知乎的这个提问下,向其他人复述了自己的经历。学习法学专业的她,清楚地知道「这种情况的遭遇不会上升到法律的程度,不到很严重的地步,外界不会介入。女生能做的好像就只有保护好自己。」



某聊天软件的自习室功能

另一边,白芸正在微博上抒发自己的愤怒。

她在微博上控诉自己不久前在手游 Sky 光遇旁观的一幕。刚进入游戏的她就目睹了对面一个狮子(形象)询问小黑(另一形象)性别和年龄。在小黑表示自己是 14 岁的初中女生之后,狮子反复询问「我能 X 你吗?」

在他想要获得小黑的 QQ 而被婉拒之后,又去往其它区域骚扰其它人。

旁观的白芸感到愤怒,跟被骚扰的小黑对话的时候,她发现——尽管小黑已经非常警觉地不主动给出联系方式,却依然没有拉黑这个骚扰者,而是选择了自己默默地不开心。



白芸在游戏内的截图

白芸有点莫名的生气,觉得小黑应该比自己更愤怒,她才是那个受害者。但同时,她又觉得理解。

在社交网络上,白芸是个坚定的女性主义者,她会和每一个受到性骚扰但反思是不是自己穿得太过暴露的女孩据理力争。在她遇到的案例中,多数女孩遇到网络性骚扰的反应都是,拉黑、删除,或者干脆清空自己的社交帐号,「她们不知道该跟谁诉说,因为周围的人会劝她,隔着屏幕,算什么性骚扰?」

白芸点击了举报,她担忧,「平台或许不会因为举报就将其封号,同样的事情之后依然可能发生。」

当我听完陈佳和白芸的叙述之后,我想知道,一个未成年的女孩,在网络世界里究竟会面临多大的「危险」。

我下载了她们常用的两个聊天软件。给自己贴上 JK、汉服、萝莉等标签,换一个少女的头像,点击扩列功能后,不发出主动邀约,很快就收到了带有性暗示的信息。即便这款软件会在对话框中提示,「聊天过程中如遇不良体验可将其打入冷宫」,但往往你还未做出这一反应,对话就已经开始了。



某聊天软件扩列功能下,陌生人发起的对话

在一些聊天社区里,我随便发布了几张不露脸的自拍照,就收到了带有性暗示的聊天邀请。我是一个经过伪装的成年人,但看到某些消息的时候,依然会觉得心理不适。

当然,如果这些骚扰停止于此,或许事情还没有那么糟糕。但如果一个未成年,出于好奇,开始了更深入的聊天,后果便无法设想。

据三联周刊报道,成都 14 岁的少女祝小小因为扩列与 46 岁的中年男子邱某某成为线上好友,后者在深入的聊天之后用发红包的方式骗取了她的私处照片,并前后三次与她发生了关系。

2020 年 6 月 28 日,祝小小坠楼自杀身亡。

虚拟网络里,虚拟的性交易

网络世界里的性骚扰早已经不是什么新鲜事,层出不穷的新鲜社交 App 给未成年人提供了更多新的诱惑,也给不怀好意的成年人提供了更多的选择。

随着互联网技术和社交媒体的发展,利用网络对未成年实施性侵害的行为越来越多。在我国的司法实践中,已有多个涉及线上性侵害未成年人的典型案例。

2018 年 6 月,最高人民法院发布了 10 起利用互联网侵害未成年人权益典型案例,其中包括一起以「视频裸聊方式猥亵儿童案」;2018 年 11 月,最高人民检察院发布第十一批指导性案例,其中也包括一起利用互联网猥亵儿童案。

语音、文字、视频,只要有一个对话框,这些隔着屏幕进行的虚拟「性行为」就可以展开。很多人通过网络利用文爱、磕炮、视频等形式,对未成年人进行虚拟的性骚扰,还有人会以公开裸照相威胁,逼迫未成年人继续裸聊甚至强迫进行线下性行为。

中国传媒大学文法学部法律系副主任郑宁教授认为,这些行为严重侵犯未成年人的人身权利和身心健康,有些已经构成猥亵儿童罪。

更严重的是,这些将未成年人包围的网络性侵害,正在形成一条灰色产业链。

在一些网站上,首页充斥着未成年人裸露身体的图片,观看者花几十到上百元充值成年费会员,就可以观看下载大量的儿童色情图片、视频。

此前媒体也报道过不法分子在虚拟恋人馆里利用兼职工资吸引未成年人,实际却诱导他们接污单的案例。15 岁的小玲就是当事人之一。她曾经亲眼目睹在 200 多人的虚拟恋人馆 QQ 群里,一个需要聊天服务的顾客下单被管理人员发出,注明「裸聊,露脸」。小玲注意到,很多类似的污单甚至会特别标注,要求未成年人接单。而通常,这些单子很快就会得到回应。



虚拟恋人馆接单群

利用未成年人的单纯天性、缺乏防范意识和自我保护能力的弱点,很多不法分子还利用童星招募的方式,诱骗未成年人提供自己的隐私信息,利用所谓的「面试」,要求那些有一个明星梦的未成年人拍裸照和不雅视频。

当他们获得这些照片、视频之后,一个庞大的网络由此展开:他们将其贩卖到儿童色情网站,网站又将其出售给更多人;或者,有些人会以「公布裸照为理由」要求被侵害的未成年人。

青少年网络陷阱如何破?

英国一项针对 1559 名英国青少年的研究发现:一年内,13~17 岁的女孩中,近三分之一在网上收到了让她们意外和反感的、来自同龄人发送的性信息。

「女童保护」《2019 年性侵儿童案例统计及儿童防性侵教育调查报告》显示,2019 年度曝光的性侵儿童案例中,网友作案 21 起,包括线上作案和线下作案(网友约见面后实施性侵),占比 9.91%,未成年人由于畏惧心理,即使发觉受到侵害也通常不会主动告诉家长,案件极具隐蔽性,被发现的案例中甚至往往有几十人受害。

通常,这些经历都会给当事人留下很深的心理阴影。品玩曾报道,在捷克的一部实验性纪录片《V síti》中,成年演员假扮一位 12 岁的小女孩在 Skype 上注册了个新帐号。不到 5 个小时,已有 83 个在 23-63 岁之间的男性跟她打招呼,且大部分要求视频通话。他们在交流不久后便开始发送色情链接,或者生殖器照片。

尽管影片中遭受这一切的女演员已经成年,且清楚自己只是在扮演角色,但她们还是或多或少地产生了心理方面的问题。其中一个演员甚至因心理压力过大而在拍摄后不得不接受治疗。因为现在只要有成年男性盯着她看,或者以挑剔的方式向她调情,她便会感觉到十分不安——而在以前,这种情况并不会引起这么大的困扰。



捷克纪录片《V síti》

性骚扰和边缘性侵犯行为带来的负面影响,不仅在于受害者的人身安全方面,更在于之后的心理健康问题。而这个问题,对于未成年人的影响更加深远。

很多人认为,网络性骚扰没有「真的碰到你」,没什么大不了的,但其实,多项调查都显示,经历过网络性骚扰的未成年人将这些事件的后果描述为「极度苦恼」、影响学习和生活、增加心理压力,使他们在面对外界环境时更加敏感和不安。

尽管现实生活中,各大社交产品都在通过不同的方式对骚扰行为、软色情内容进行打击。但这还远远不够。

南都个人信息保护研究中心发布的《网络直播 App 未成年人保护报告》显示,在 30 款被评测的 App 中,多数 App 在未成年用户操作过程中,缺少需征得家长同意的功能设置,有的甚至无法有效识别未成年用户;一些 App 所设置的青少年模式功能流于形式,内容池有待进一步优化。

《报告》还显示,46.7% 的被测 App 存在不适宜未成年人接触的内容,其中尤以软色情内容最为突出,主播穿着暴露、言语粗俗的现象广泛存在。

面对越来越多被「陷阱」包围的青少年,法律政策的推进、家长的教育保护同等重要,而科技企业和互联网平台该如何更有效地去为青少年创造健康的网络环境,也同样是一个需要我们思考的问题。