美国加州一项新法律于今年生效,该法律要求该州每个城市列出并界定当地执法机构中所有军事级别设备的授权用途。旧金山警察局原始政策草案并未提及机器人的问题。该市监事会成员亚伦·佩斯金(AaronPeskin)在原始政策草案中加入了一行字:机器人不得作为对任何人使用武力的手段。
但旧金山警察局用红线划掉了这句话,并退回了草案。他们修改后的提案概述说:只有当公众或警察的生命损失风险迫在眉睫,并且超过了旧金山警察局可用的任何其他武力选择时,才会将机器人作为致命的武力选择。
旧金山警察局目前有12个运转正常的机器人。它们是由远程控制,通常用于获得态势感知和调查官员可能无法到达的特定区域。它们还用于调查和拆除潜在的炸弹或协助人质谈判。
机器人被合法地允许杀人的想法已经引起了一些争议。今年10月,一些机器人公司——包括现代的波士顿动力公司——签署了一封公开信,称通用机器人不应该被武器化。
瑞安·卡洛(RyanCalo)是华盛顿大学的一名法律和信息科学教授,同时也研究机器人技术。他说,他长期以来一直关注美国警察部门的日益军事化,但全美的警察部队可能会被机器人所吸引,因为“它允许警察在不让自己受到伤害的情况下,使危险人物失去行动能力。”
卡洛指出,当警察自行决定使用致命武力时,其理由往往是警察感到不安全,认为有威胁。但他指出:把机器人派到一个场合,就没有任何理由使用致命武力,因为实际上没有人受到威胁。
据报道,美国执法部门首次使用机器人作为致命武力是在2016年,当时达拉斯警察部门用一个装有爆炸装置的拆弹机器人,杀死了一名射杀了五名警察的嫌疑人。
保罗·夏尔(PaulScharre)是《无主之军——自主武器和战争的未来》一书的作者。他指出,机器人在军事上的使用与执法上的使用有一个重要区别。首先,美国执法部门使用的机器人不是自主的,意味着它们仍然由人类控制。对于部队来说,它们被用于与敌人作战,其目的是为了杀死敌人。这不是也不应该是警察部门的目的,夏尔说。他们是为了保护公民,可能会有需要使用致命武力的情况,但这绝对应该是最后的手段。
夏尔表示,关于旧金山警察局的提议,令人担忧的是,它似乎没有经过深思熟虑。一旦你授权使用这种武器,就很难再收回。他说,这一提议在使用机器人进行致命攻击和将执法人员置于危险之中之间建立了一个错误的选择。
作为一个研究机器人的人,瑞安·卡洛说,“杀手机器人”的想法是一个更大的讨论人们与技术和人工智能关系的起点。谈到机器人在野外活动时,卡洛想到如果技术失败,机器人不小心杀死或伤害了人会发生什么。
要分清谁该负责,变得非常困难。是使用该技术的人吗?是设计该技术的人吗?卡洛问道。有了人,可以解开一个情境的社会和文化动态,这是用机器人无法做到的。
卡洛又提出了一个问题:“必须问问自己,是否想在一个警察用机器人杀人的美国社会里?这让人感觉到深深的非人化和军国主义”。