「我们距离机器战警的世界,还有多远?」新加坡在今年9月初推出名为「 Xavier」巡逻机器人的测试计划,执行巡逻警察的任务,负责侦测「不良社会行为」,包括在禁烟区吸烟、违反社交距离、监督非法摊贩、或是乱停脚踏车等。 Xavier测试计划引发正反不同意见,支持派认为这不仅能解决人力短缺问题,还可以有效强化社会安全网;反对派则担忧Xavier可能伴随的全面监控和个资隐私问题。极力发展「AI国家」的新加坡,这是实现「 智慧型」社会的进化实验,还是机器监控的反乌托邦世界?
巡逻机器人「Xavier」,名称典故取自欧洲巴斯克语的「新家」(New room)或「城堡」(castle)之意。2021年9月5日在新加坡新手上路,以住宅区和购物中心为重点区域,展开为期三週的试验计划。Xavier为四轮驱动的车型机器人,总共搭载7个360度视角、具夜视功能的镜头。前端正面有LED跑马灯和电子萤幕,用以显示动态讯息和宣传资讯。依靠自动导航系统,Xavier能够在设定好的路线上巡逻,并且透过影像和资料库来辨识沿途的障碍物,以及需要被端正的「不良社会行为」。
在《法新社》拍摄Xavier的执勤影片中,行走于热闹街区的Xavier显得格外引人注目,而最令人在意的是Xavier究竟如何「执法」,巡逻机器人的实质效能到底如何?在画面中Xavier朝向在吸菸区吸菸的民众靠近,并以女声广播器提醒:「乱丢垃圾是违法行为。」接着Xavier又转往移动到几位群聚下棋的老人附近,再次发出提醒:
「请保持一公尺的距离,每个团体请不要超过五个人。」
实际上Xavier无法做出人类警察那样开单罚款、甚至逮捕的任务,仅只能透过声音的警告劝导民众。儘管是巡逻辅助功能,但其突破性也在于对外在环境识别的精准度大幅提升,根据新加坡官方的资料,Xavier的AI系统依靠大数据资料,能有效辨别「吸菸的人」、「乱停脚踏车的区域」、或是违反防疫的多人群聚等场景资讯。
同时Xavier内建警察指挥中心的即时系统,让执法部门可以直接远端操控Xavier、即时监控Xavier所拍摄到的画面,如果有必要的话,警察也可以直接透过Xavier发出人声广播。换句话说,就算Xavier没有实质阻止不良社会行为的能力,但做为警察监控的「分身」,Xavier是提高见警率和威慑力的灵活机器。
不过,当Xavier在发出警告的同时,机器人头部的摄影机也同时对着被警告的人——在镜头的背后,究竟是些什么人在观看影像?360度无死角的街头纪录,这些影像和资料究竟会如何使用、又会被谁利用?Xavier的巡逻试验,也引发了新加坡隐私的全面监控忧虑。
考虑到劳动力短缺和人口老化问题,新加坡一直希望推动以科技驱动的智慧型国家愿景,过去也已经研发不同功用的机器人、投入不同的领域使用。儘管机器人在一定程度上为城市和民众带来便利与效率、且这也意味该国科技的创新与突破,但同时民众的忧虑也在于个资问题。
对此,官方说法为机器人仅在试验阶段,并不会以此辨识或对付违法者,不过民众仍存疑虑。一名在商场裡看见巡逻机器人的民众告诉《法新社》:
「这让我联想到『机器战警』(Robotcop)...让人想起机器人的反乌托邦世界,我对此有点犹豫。」
尤其,相关的个资问题方才于今年1月在新加坡引起争议。《卫报》报导,新加坡政府在疫情期间研发并推出「Trace Together」追踪软体,以收集和追踪确诊者和密切接触者的足迹。截至今年1月,约80%的民众(新加坡人口约570万)使用该软体,在当时引发有关个资收集、使用和储存等讨论。后来,新加坡政府在1月5日承认警方可以在进行刑事调查时「有权取用任何收集资料」,包括从软体裡收集到的数据,此说法与官方先前表示「所有数据仅用于追踪接触者」不符,随即引发批评。
然而,不仅是新加坡,在南韩、澳洲等国也引发有关政府应该如何处理个资安全的问题,如澳洲政府便立法规定仅有卫生部相关单位可以使用收集到的追踪资料,警方若有需求必须先向法院申请。新加坡政府之后也比照类似做法,在2月通过立法,规定:待疫情结束后,政府伺服器将删除「Trace Together」等相关软体的访客登记记录,且限制警方只有在调查严重的犯罪行为(如谋杀、恐怖攻击等),才能调阅用户资料。
在先前有了「不良好」的个资使用记录,官方在Xavier机器人开始测试之际,便表示该机器人不具有脸部辨识系统,且主要用于「教育」和「威慑」目的,而非执法。至于收集到的数据在经过相关单位分析后,就会透过必要安排销毁数据。
《海峡时报》报导,Xavier机器人计划由五个公共机构一起参与,分别是:新国家队科学技术局(HTX,负责科学技术开发)、国家环境局、陆路交通局、食品局和住房委员会。这五个机构表示,此次为首次在人流量非常大的公共区域让Xavier机器人巡逻和,希望提高公众的安全和健康以及减少巡警的人力需求。例如,收集到数据可以帮助辨别违停的个人代步工具,相关单位可以将重心集中在这些区域。
事实上,Xavier也并非首次出现在新加坡的机器人,Xavier的前身便是Matar机器人。Matar机器人曾在2019年新加坡的国庆典礼上出现,也曾在2020年爆发移工宿舍群聚感染之时,在宿舍中执行「提醒移工保持社交距离」的任务。相关单位可以远程操控Matar机器人,同时也可以指派它去巡逻,从而减少与被隔离者有更多不必要的接触,甚至也可以提醒、威慑移工。
对此,检察官告诉《海峡时报》: 「有时候,移工排队时会忘了遵守安全距离,此时,Matar就可以给他们口头提醒...Matar也起到了威慑作用,一但移工看到巡逻机器人,他们就会遵守社交安全距离。」
不仅是Matar,新加坡在2020年4月也派出名为Spot、具有四隻脚的无头机器人在公园和花园等公共区域巡逻。与上述提到的机器人无太大差异,装有摄影机的Spot拥有灵活的四肢,有利于其在草地上更灵活移动,同时也会以女声来提醒民众遵守防疫距离:「让我们维持新加坡的健康!为了您与周围的人的安全,请保持至少一米距离,谢谢!」
对此,有些人认为机器人可以来判定一个地区有多拥挤,能有效促进防疫。但也有人批评机器人令人「毛骨悚然」,一位当地民众告诉《法新社》:
「这在某种程度上令人不寒而栗——像是有什么东西在东张西望,我不确定当我靠近它时,它会如何反应。」
类似的个资争议在过去几年都出现在公众与伦裡。新加坡是世界上数一数二被视为安全的国家,一向以执法严谨为名,但同时也承受「政府监控人民」之名,例如:新加坡目前已有9万个警用摄像机,同时各个地方的灯柱未来也可能安装脸部辨识系统,协助相关单位寻找特定对象。此外如上所述,新加坡也在疫情间推出巡逻机器人和派出无人机,藉此监控和防疫,也才让个资和隐私的安全问题在在成为辩论焦点。
新加坡政府在2019年11月公佈国家人工智能战略(National AI Strategy),希望深化人工智能的社会各方面的使用,并改善五个领域的问题,包括:提升运输和物流的效率、发展智慧城市和提升市政效率(如利用聊天机器人了解社区问题)、医疗保健(慢性病侦测、临床数据分析)、制定客制化教育学习,以及提升边境关卡的安全保障。同一年,新加坡政府也成立新国家队科学技术局(HTX),此主要负责与国土安全的科学技术开发。
由此可见,新加坡在发展人工智能上极具野心,目标是希望在2030年让新加坡成为开发和部署人工智能的领导者。目前,不仅是机器人,送货机器人和无人驾驶公车也已经开始在新加坡测试上路。但并非每一次的测试都如此顺利,近期新加坡卫生部的AI聊天机器人便闹出了民众与机器人「牛头不对马嘴」的笑话:
民众:「女儿的检测呈阳性(Covid positive),该怎么办?」
机器人:「至少在你女伴怀孕期间,你应该透过正确并且持续使用保险套或禁慾,来进行安全的性行为。」
儘管是AI机器人闹出的一则笑话,但背后也反映了——如果发展人工智能已经成为不可挡的趋势,那么要如何确保新加坡在成为「 智慧型」国家之际,不会以此来监控人民?基于新加坡过去有限的言论自由以及集会空间,反对派又是否有拒绝的权利和空间?
针对刚推出Xavier机器人,新加坡倡议人士就告诉《法新社》:
「基于我们明显地受到监视,这是反乌托邦的。但我认为更反乌托邦的,是这一切都被正常化了,人们对此根本没有太大的反应。」
在极速发展高科技的趋势下,这也成为新加坡、世界各国不得不面对的问题:如果想要全力发展人工智能,那要如何在发展、社会利益、公民权利、个人隐私之间取得适当平衡?