甚至连十几年前的黑历史都可能挖到!
最近,一个名为PimEyes的人脸搜索引擎,引发了巨大争议。
这个网站支持搜索任何人的照片,而且准确度惊人。
即便带着口罩、墨镜、脸上有头发遮挡,人脸也能被识别,然后扒出各种相似人脸照片。
这当中,甚至可能还会被扒出露骨照。
一软件工程师Cher Scarlett(之后叫她雪姐)分享了一段经历,本想测试能否搜出亲人,结果竟找到自己十几年前被性虐待的照片。
更要命的是,要想清除这些照片,要么是手动提交申请,要么就是订阅他们的服务——
每月至少支付79.9美元,即可管理搜索结果,隐藏一些不想被看到的照片。
前提还要满足上传自己的隐私信息验明身份。
而且一次清除是远远不够的。网站表示,只要后续出现在了不同的链接上,还是会被显示出来。
也就是说,你的那些黑历史,任何人都能可以翻开来看,而且花钱都不一定能清除。
此事一出,立刻引发了轩然大波。
不少网友表示:它提醒我们监管在科技领域是多么地重要。
它的商业模式,越来越像2010年代中期的报复性色情敲诈者模式:强迫未经同意的受害者付费保护自己来赚钱。
被扒出黑历史还删不掉首先回顾整场风波的起因,据CNN报道,雪姐此前有过这样一段经历,曾通过Facebook的人脸识别搜索功能,结果找到了她的远房亲戚。
于是有人给她分享了这个网站 PimEyes,她想研究下这个网站是否也会像Facebook一样,把她亲戚的照片误认为是她。
不过这一次,雪姐并没有得到想要的结果,反而打开了尘封已久的痛苦回忆。
一张19岁的老照片。当时她正遭人胁迫,拍下了一系列带有羞辱性和暴力的照片。
也因为这段经历,雪姐一度想要轻生。以至于之后身体的自我保护机制,不曾让她再度记起。
正当她想要查看图片来源,却弹出月/年订阅服务的界面——
需要至少支付29.9美元,即可查看图片来源。
支付了以后,雪姐发现这张老照片竟然是在色情网站上。
而又以这张老照片来搜索发现,结果得到了几十张更露骨的照片,当中很多都分散在各个色情网站上,甚至还专门设有“虐待”、“窒息”、“折磨”等关键词。
随后,她一直试图删掉这些照片,甚至还买了PimEyes最贵的服务,但都无济于事。
起初她还因为并非是这些版权的所有者,而被网站忽略。而后即便采用官方的退出机制——上传清晰地人脸图像,并用身份证/护照的照片以验明身份来申请删除,也迟迟未得到任何信息。
直至今年4月,雪姐在社交网络上分享了自己的经历,PimEyes才批准了她的删除请求。
此事一出,许多网友也用这个网站试了试,不过画风不尽相同。
除了对侵犯隐私表现出害怕外,有的扒出了自己从未见过的照片:incredible!
还有人有点沮丧,因为只扒出了两张照片。
PimEyes回应:我们提供免费下线照片功能说起PimEyes,其实它已经有5年的“历史”了。
按照目前网站主人的说法,它的作用主要是想帮助普通人,来检索自己在互联网上的照片是否被不合理使用。
比如在照相馆拍的照片被直接拿去宣传这类案例。
网站的公告表明,他们虽然有着欧洲最大的照片数据库,但是却不存储任何一张照片。
搜索的方法主要是提取人像上的面部特征,保存对应的数据。
而且搜索结果显示的链接也都是公开网站,不会指向到个人。
一般来说,普通的检索是可以免费使用的。
如果想体验更多功能,则需要付费。
包月会员的价位有每月29.99美元/79.99美元/299.99美元。
价格越高,能检索的权限也就越大。
PimEyes在官网中一再强调,自己不掌握任何个人隐私。
但它们也表明,无法限制用户只在网站上搜索自己的照片,因为它们并不会对每一个用户进行身份验证。
如果后台发现了有可疑账户活动,它们也会停用对应账户。
“不过我们不可能检查该账户正在检索什么内容,只能知道他们每天检索了多少次。”
更进一步来看,PimEyes还提供了用户自行下线个人照片的服务。
也就是前面Cher Scarlett尝试过的事。
官方声明称,这种服务可没有用户想的那么简单。
在用户匿名上传自己的照片、个人身份证明等信息并通过验证后,网站会依据人像的哈希值检索,然后删除到相似度水平很高的链接地址。
但由于AI的不确定性和复杂性,一次请求可能无法找到所有匹配照片,他们建议多次使用照片执行下线操作。
而且他们也无法保证被删除的图像,之后会不会出现在新的网站上。
只要有新的链接中包含这一人像,再进行检索还是能找到相关内容。
PimEyes建议用户,可以后续不定期来清理一次照片……
除此之外,他们也在使用更加全面的功能来规避这一问题,比如对镜像URL的识别、提高AI能力、增强屏蔽等。
但他们表示:
这一流程需要执行多个复杂的技术任务和测试,因此在功能完全实现还需要一段时间。
值得一提的是,PimEyes表示下线照片这一功能,无需付费就能使用。
网站主人Giorgi Gobronidze在接受《纽约时报》的采访中表示,之前Cher Scarlett为了下线照片支付的299美元会员费,也已经原路退回。
官网的付费页面显示,如果每月支付79.99美元,他们还能提供代理提交照片下线申请的服务,可以发送多达80份申请。
可能是因为之前没有太多人注意这个免费功能,此事一出PimEyes还专门写了博客,详细说明了这个下线功能如何使用。
层出不穷的人脸搜索引擎而需要注意的是,PimEyes其实并非个例。
近年来互联网上已经出现过多个人脸搜索引擎。
由此也引发了政府部门、社会对人脸识别应用的高度关注。
几年下来,这些提供人脸检索的应用或网站命运各不相同,有的被政府“招安”只提供行业服务、有的仍旧备受争议、有的已经宣布下线……
下面,我们就来简要盘一盘,这些人脸检索应用现在都怎么样了?
首先来看俄罗斯的FindFace。
它在2016年上架,功能是将上传的人脸照片,与俄罗斯最大社交网站VK中的海量照片进行比对,然后提供最佳匹配结果。
它背后的算法甚至还参加了人脸识别竞赛MegaFace,在对100万个人脸搜索后,它最终取得了73.3%准确率的成绩。
其创始人在接受采访时表示,开发这一网站的主要目的是帮助人们改善社交生活。
如果看到喜欢的人,就可以拍下照片,然后找他们的社交账户。
与此同时,这个网站还被警方征用来识别罪犯,或许也为它后面的转型做了铺垫。
2018年,FindFace表示不再提供检索社交资料服务,而是向安保等行业提供服务。
据报道,在俄罗斯2018年世界杯期间,FindFace安全应用程序在多个城市应用,帮助拘留了上百名犯罪分子。
但并不是所有人脸检索引擎,最后都选择被“招安”。
前段时间,另一个人脸检索应用Clearview AI闹得风头也不小。
和FindFace有些类似,它的检索范围也主要聚焦在社交平台上,包括Facebook、Twitter等。
据报道,Clearview AI已经收集了100亿张照片。
2020年,美国民间组织ACLU以该公司行为违反《伊利诺伊州生物识别信息隐私法》提起诉讼,以维护家暴受害者、无证移民和性工作者等弱势群体的隐私权益。
在今年5月10日,这一诉讼公布结果,Clearview AI将不再对美国大多数私企或个人提供服务。
与此同时,Clearview AI还在最近被勒令删除英国居民的面部信息数据,并被ICO开出750万英镑巨额罚款。
此前,Facebook上也提供过类似的人脸检索功能。
它可以支持用户在朋友发布的照片中发现自己、标记自己,主要是为了产生更多互动,增加用户粘性。
但这一功能也经历了长达6年的法律诉讼,并最终以赔偿6.5亿美元告终。
去年,在Facebook改名Meta时,正式下线这一功能。
而在国内,也有过类似的案例。
2019年,一款名为“原谅宝”的应用引发巨大争议。
一位程序员表示,自己开发了一个可以鉴别“渣女”的程序,支持将女性照片上传后与黄色网站中人像进行对比的功能。
当时多家媒体对这一事件进行抨击,表示“原谅宝”是科技向善的典型反面。
事情最后以这款应用下线告终。
显然,人脸识别该如何合理应用,仍旧是一个值得深度讨论的问题。
对此,你怎么看呢?