2018年4月3日,警察在河南省洛阳市展示他们的智能眼镜。


欧美的研究学者说,新疆的高压监控系统已经用在了中国其他各地,大数据“预测预警”策略成为中国公安部门侦查和执法宣传中的一个热词,但引发的效用和道德问题也颇具争议。

中国各地监控支出十年升高19倍

中国政府在新疆监视通讯、广设监控设备,这一主要针对维吾尔等少数民族的监控科技组成的天罗地网引发全球关注。美国与欧洲的研究人员发现,在新疆以外的中国其他许多地方,与新疆类似的监控方案也广为使用,而且多样化。

在改编自1956年同名小说的影片《少数派报告》中,警方与具有先知能力的超能力人类合作,在“罪犯”实施犯罪之前就将其捉拿归案,让重罪彻底从社会上消失。研究人员说,在监控技术和大数据分析的帮助下,这种被称为“预测性警务”(predictive policing)的做法正在受到中国各地的公安和政府部门的推行。

一项由前美国国务院分析专家、网络杂志“中参馆”(ChinaFile)高级编辑杰西卡·巴特克(Jessica Batke)和德国马歇尔基金会亚洲项目高级研究员马晓月(Mareike Ohlberg)最近共同发起的研究梳理了2004年至2020年的76000多份中国各地政府机构的监控设备和服务的采购公告。她们的研究发现,从2010年至2019年,监控相关设备和服务的采购公告数量增长了近19倍。

研究说, 65.8%监控采购由公安系统进行,地方政府部门采购了15.8%的监控设备和服务,其余的采购部门还包括各地的政法部门、城市管理、维稳单位、地方党支部等。

研究还说,在2019年,中国三分之一的县市级政府机构(998个)增购了某种类型的监控设备。仅在过去的五年里,被称为“雪亮行动”的监视活动花费了140多亿元人民币(21亿美元),这个数字还不包括其他监视项目的支出。

马晓月对美国之音说,尽管不能断定中国各地公安是否正在积极学习新疆的高压政策中的监控和执法经验,但她们的调查显示,“新疆和中国许多其他地方的监控项目在措辞和解释这些项目的逻辑阐述上非常相似”。

在新疆之外,各地政府的监控策略不拘一格。其中,预测性警务的做法引人关注。这一执法理念的目标是让侦查人员在犯罪发生之前就预知并阻止其发生。

大数据预测预警,《少数派报告》在中国将成现实?

早在2016年,中国国家主席习近平就作出有关“加强和创新社会治理”的指示,特别强调要提高社会治理的智能化,要求“提高预测预警预防各类风险的能力”。

2018年,中国公安部部长赵克志就“智慧警务”建设作出部署,并提出“公安大数据战略”,称大数据是公安工作“战斗力生成的新增长点”,要求各地“着力提高预测预警能力、精确打击能力和动态管理能力”。

马晓月本星期在加州大学圣迭戈分校的一次网上讲座分享了她与巴特克的研究。她透露,黑龙江省哈尔滨市公安部门的一份招标文件似乎揭露了中国公安以大数据预测预警策略的部署方案。

哈尔滨公安香坊分局这份发表于2017年、预算为1465万元人民币的招标文件显示,当地公安部门已将“涉恐、涉暴”等人员录入“重点人员库”,因此可以根据“有监督学习”的方法,“以这些已知重点人员为训练样本,训练一个分类或预测模型,对所有的人员进行分类和预测,找到潜在的涉恐、涉爆等重点人员”。

这份文件将这个大数据分析功能称为“涉恐涉暴人员预测模块”。

惩治犯罪作用有限 主要是维稳工具

预测性警务是中国借助大数据分析、云计算、人工智能工具推广的“智慧安防”、“智慧公安”社会管控体系的一部分。中国政府说,提高公安“预测预警预防”能力的目的是提高人民群众的安全感。不过,许多分析人士质疑预测性警务对改善社会治安的作用。

《北欧法律和社会研究期刊》(NAVEIÑ REET: Nordic Journal of Law & Social Research, NNJLSR)2020年刊登的一篇题为“公安的集权梦——预测性警务在中国”(Predictive Policing in China: An Authoritarian Dream of Public Security)的分析论文结论指出,中国预测性警务路线要想真正达到降低犯罪率的目的还面临许多体制问题的阻碍,宣传价值可能是中国建立这种犯罪预防体系的最重要目的;与此同时,当局强调“预测预警”真正针对的目标是持不同政见者、访民和一些弱势群体。

论文作者、德国科隆大学中国法律文化系研究员、讲师丹尼尔·斯普里克(Daniel Sprick)对美国之音说,中国的犯罪统计数据常常是“歪曲和带有偏见”的,因此难以判定预测性警务是否帮助社会改善治安。

斯普里克的研究重点是中国刑法和司法制度改革。他并未完全否定中国大数据预测预警战略在预防犯罪中起到的作用。例如,公安机关可以利用“大数据”来防范电信诈骗。

反电信诈骗预测预警的AI算法模型在经过大数据训练后,可以实时预测事件关系网中的人员关系,计算出疑似受骗者,并主动向他们推送预警信息。在一些中国媒体的宣传中,常常有警方在受骗者在赴银行向诈骗人转账前及时将其拦阻的报道。

中国信息通信研究院安全研究所2020年4月发布了一份有关疫情期间电信网络诈骗防范治理的案例汇编,列举了全国各地51个反电信诈骗的成功案例。报告称,公安的一系列打击做法让疫情期间的电信诈骗“连续多周明显下降”。

不过,科隆大学的斯普里克说,预测性警务在电信欺诈这类主要涉及大量网络通讯数据的犯罪方面可能有一定用武之地,但一旦警务从网上转到网下,人工智能预测预警存在大量偏见,无法编织出罪案的准确全貌。

“谈到街头犯罪和网络世界里根本没有的犯罪时,情况就完全不同了。你必须把街头巷尾采集的数据丛输入机器。这很难,因为这些数据的生成永远是偏见的产物,因为就连那些做算法编程的人都带有偏见……因为他们使用的是以前的已有数据,或多或少受到这些数据的影响。”

斯普里克引用数据分析行业的一个说法形容:劣等数据做出来的警务判断是“垃圾进,垃圾出”。他说:“这在中国绝对是一个问题。”

斯普里克强调,中国政府最关心的似乎不是为了研究如何利用大数据科技增强解决实际问题的能力,而是通过大力宣传安保工作中的科技投入,提高公安部门的正面形象,进而加强政权的合法性。

斯普里克说:“预测性警务的运用是在展示他们(政府)在尽最大努力创造出很多成果,用市场上能获取的最现代化的手段让公众有一种安全感和治安有效的感觉,所以这种预测性警务在很大程度上是一种幕前的游戏。后台到底发生了什么?我们不知道。”

专家批预测性警务作法不符伦理

预测性警务的道德和伦理问题也广为诟病。数据隐私问题专家、加拿大全球隐私与安全设计中心(Global Privacy & Security by Design Centre)执行总监安·卡沃基安(Ann Cavoukian)对美国之音说,预测性警务让人“无法容忍”。

她说:“预测性警务充满误报。这不是一个可以准确检测任何东西的方法。”

“这是完全不道德的,因为它不是建立在任何现实的基础上,只是对某些行为作出假设,然后将其实际应用到人身上。”卡沃基安说:“但你不能那样做。你需要证据,需要合理的依据……当你有合理依据的时候,你把它交给法官。如果你能说服法官,你才能拿到搜查令,让你能够去收集信息。但这些都是必须采取的一系列步骤。预测性警务并不能做到这一点。”

有关人工智能在警务和侦查工作中的运用,在西方也有许多伦理问题的争议。民权活动人士认为,人工智能算法的训练容易参杂偏见,让机器区别对待少数族裔人士,让他们更容易成为执法针对的目标。

斯普里克说,在预测性警务的道德问题讨论中,他不想强调任何中西方的二元对立。但他特别指出,中国的司法体系所欠缺的是:无论是机器出错还是人工误差,警方受到的问责程度远不如西方民主国家。

他说:“中国缺乏一个可以真正向政府施加足够压力的、迫使政府追究警察的责任的公民社会。当然,缺乏一个与政权对立的公民社会是中国的一个体制问题。”

“这就是为什么中国的预测性警务或多或少会产生更多的误报,而这些误报不会导致在我们这里(西方国家)会出现的那些丑闻。”

斯普里克说:“在美国的预测性警务实验中也出现过很多误报,再度激发了整个种族偏见问题。但美国有强大的公民社会,全国有色人种协进会(NAACP)打前阵提供支持。中国没有这样的协会,特别是没有具备足够力量来支持那些最有可能成为这种误报受害者的人——那些已经被边缘化的人……例如农民工、吸毒者和街头小贩。不是中国人不在乎,而是中国缺乏这种内在的问责制度。”

中国警方近年来在国内重要会议和G20峰会等国际活动举行时扩大通讯监控、加大对访民和异见人士的打压,此类报道已屡见不鲜。斯普里克说,从当局“维稳”的出发点来看,预测性警务或许是一个“有效”的工具。