阿碧 & 雪菱：


在接到《经济观察报》的邀请，说在岁末可以写一封信给友人时，我脑中第一个蹦出的就是你们。过去的几年里，你俩大概是我聊天最频繁的友人，我们共有的微信群和我儿子的班级群，成了我手机里为数不多没有被设置为消息免打扰的。


记得上周腾讯谷雨的记者因为新书《权力的边界》出版而采访我，问我如何度过低谷期，又如何排遣法律人在面对极端不公时的虚无愤怒彷徨困惑，我脱口而出的就是你们。从2020年雪菱发起线上云喝酒开始，你俩还有法治组的另外两位男性友人似乎就成了我生活和工作中强大的精神支持。我们在彷徨时彼此鼓励，在困惑时互相扶持，最关键的还有隔三岔五的吐槽八卦甚至贫嘴斗图。那位记者听后说，那他们都是赵老师的周边呢！而我则是喜不胜喜地接受了你们作为我的“周边”的叫法。


《经济观察报》说，这期的通信主题是“AI时代的人类意见”。这个问题我们还真的没少在群里讨论过。记得ChatGPT刚出现时，好奇心颇重的我们都认真玩过一阵子。阿碧说自己想问的第一个问题是“群里的两个男的是渣男吗”，吓得“法治之光”赶忙说，这个可不能问，仨女的大笑，“你们还挺有自知之明”。是不是渣男这个问题最终没问，但各种山寨版的ChatGPT还是被我们测试过很多次，直至大家终于意兴阑珊，对机器的“调戏”才终于结束。


后来，“法治之光”发现正版的ChatGPT居然可以用来翻译学术论文的英文摘要，遣词造句都远超各种在线翻译软件，AI（人工智能）才终于被我们这几个法学老师用到正途。也是在上周的某天早上，我因为要写学术论文还在跟德文资料鏖战。阿碧打电话来约我外出喝咖啡，我跟她抱怨整理外文资料的辛苦，她居然又支一招，你可以把德文资料输入ChatGPT啊，意思可以看个大差不差，看不太明白的地方你再看原文，这样可以省出多少时间逛街买衫喝咖啡。我又有醍醐灌顶般的领悟，甚至开始幻想未来可以用这招轻松搞定各种科研类KPI。


坦白讲，迄今为止我对ChatGPT的探索也就仅限于此。记得“法治之光”今年夏天还尝试用它来草拟毕业致辞，但出来的也就是那种四平八稳的文字版本，不俏皮无调侃更无泪点亮点，倒是很合适用来写交给领导和组织的工作计划和年终总结。这个测试结果对我们这些常年以文字为生的人而言，反而多少是安心的。谁说我们很快就会被AI替代，要在一片干巴巴的文字水泥地上开出百合花，ChatGPT且有段时间呢。


虽然大部分法律人对ChatGPT还都只是初试阶段，但法学研究的风向似乎早已发生变化。网络法学、虚拟法学甚至是元宇宙的法律问题都开始成为各个学术期刊的高频选题，有关算法的法律规制、自动化行政的属性定位、数据权利的保护边界等论文也开始雄霸各个期刊的重要版面。


我的同事总结，法学中的禁区其实不少，但写新兴技术就非但没问题而且还会是爆款。这类论文看多了，真会觉得我们似乎已经站在了科技发展的潮头浪尖，传统法学已经没什么研究的必要和价值了。对从小就不擅长技术，连读说明书都觉得费劲的我而言，这个结论可一点儿都不让人开心。


但真的是这样吗？记得2020年疫情前，唐山曾发生过一起货车司机经过超限站时，因车上的北斗定位系统掉线而被处罚的案件，被处罚的货车司机因不能接受处罚又与执法人员沟通无果，最终服药自杀。当时这个案件引发巨大争议，我也在激愤中写了篇《任何人的死都应该被认真对待》的评论文章。


彼时的交通运输部为确保大货车的运营安全，要求全国各地的大货车都安装北斗定位记录仪。记录仪使用的初衷主要是为了避免货车司机疲劳驾驶，所以程序设定也表现为每四小时自动掉线20分钟。如果掉线时货车司机还在继续驾驶，其经过超限站时就会被施予行政处罚。听起来这似乎是新兴技术适用于行政监管的创新。


但让人始料未及的是，自从被强制安装了卫星定位系统，大货车司机的境遇却每况愈下。不知是定位系统本身的设计问题，还是各地承揽此类业务的承包商在硬件上偷工减料，这个系统故障频现，很多司机都因经过超限站时系统不在线而屡屡被罚。


货车司机反映跟执法人员申辩也毫无用处，因为在执法人员的认知里，机器记录了一切，它不会说谎不会出错，所以根本无需再调查求证。这个案件以相当极端的方式展现了机器、算法其实都没那么可信，本应造福于公共行政、服务于个人的技术系统，很容易就会成为绑缚、约束个人的工具，甚至会被异化为简单粗暴的管控工具。


那篇文章首发在澎湃新闻《法治的细节》上，跟众多我写的其他文章一样，都是雪菱审阅编辑的。虽然只是篇法律时评，但它却开始激发我关注技术革新所带来的权力滥用以及新兴技术对个人的压制操纵。记得我去洪范研究所讨论这个案件时，有几十万货车司机在线收看，我不确定我和其他老师的法律分析，这些货车司机是否全能明白，但他们如此积极的关注却让我们这些法律专家必须正视，伴随新兴技术的适用，那些弱势群体可能并不会因此获益，反而会遭遇更大困境。之后，我的研究领域增加了一个新的板块，即如何用法律驯服新兴技术。


记得阿碧在《正义的回响》中写，人到中年立场大多会温和偏保守，我对待新兴技术大概也如此。我并不认为传统法治在应对新兴技术时就已完全乏力，相反，越是新兴技术大行其道之时，传统法治的价值越需要被挖掘和强调。


与那些热情拥抱新兴技术的人相比，我们这些法律人似乎显得格外审慎，原因可能在于，新兴技术在我们眼中并不只是提高效能那么简单，它很容易就会滋生过度侵蚀个人权利的问题，尤其是新兴技术与国家权力相结合，有可能会催生出一种不受约束的霸权，它不仅打破了传统法治通过权力制约与权利保障所建构的权力与权利间的平衡，也再度加剧了国家与个人之间的权力势差。我的专业要求我所思所想都是如何去守住国家作用的界限，约束公权行使的疆域，避免其蜕变为吞噬一切的利维坦，但是现在我们面对的却是一个更难对付的数据利维坦。


上述担忧也绝非毫无根据的空穴来风。伴随码化管理、人脸识别等技术适用的越加频繁，我们开始越来越多地看到数据技术对人主体性的蚕食和贬损。


例如，码化管理更易使国家权力实现对个人的精准监控和追踪；数字技术使个人被数字化，也更易为权力所支配和操控；而算法黑箱则使公共决策被拖进了由技术复杂性所构建的不透明区域，受其影响的个人不仅丧失了参与、质疑甚至反制的机会，甚至也失去了正当程序的保障。


我们修习法律的人常说，只有人才是真正的主体，任何将人工具化和客体化的处理都是对个人人格尊严的贬损。但新技术的发展让我们越来越担忧，技术可能超越受人支配的客体地位，而人的主体性也将受到前所未有的重大挑战。再伴随人之为人概念的不断滑坡，也许某天真的就会像赫拉利在《未来简史》里警示的那样，“人类有可能从设计者降级为芯片，再降成数据，最后在数据的洪流中溶解分散，如同滚滚洪流中的一块泥土”，为了避免这个场景，我们这些法律人必须警醒和努力。


担忧归担忧，但我对我们这个行业的未来前景依旧乐观。上周末我去成都的一家独立书店做新书分享，有个法律同行问，我们这个行业未来会被AI彻底替代吗？


我相当笃定地回答应该不会。就司法审判而言，完全由机器来承担就是难以想象的。因为司法绝不是类似自动售货机式的简单过程，它包含了复杂的价值判断和法律适用，也依赖于直觉、法感等这些根本无法由机器习得的软性因素。最重要的，机器既不会对被裁判者产生同理和共情，也不会为它的裁判结果负责和担保，总之，它不会将他人当人，不会理解和展现对他人的尊重和同情。


大家都熟知“枪口抬高一厘米”的案例。在柏林墙被推倒，两德统一后，当年守墙的士兵亨里奇被告上法庭，原因在于他曾射杀欲翻越柏林墙的一名东德青年。在法庭上，律师辩护说，亨里奇作为一名守墙士兵，执行命令就是天职。但法官最终还是对他进行了判决。


在那份被后世不断传颂的判决书里，法官这样写道，“在这个世界上，除了法律之外还有良知，当法律和良知冲突时，良知才是最高的行为准则，而不是法律。作为一个心智健全的人，当你发现有人翻墙而举枪瞄准时，你有把枪口抬高一厘米的权利，而这也是每个人应当主动承担的良心义务！”自此，“枪口抬高一厘米”成了人类良知的代名词。


试想，如果将守墙之事交由机器或算法来决断完成，其结果显然就只是冰冷的杀戮。我们无法期待机器会对他人产生怜悯，也无法寄望于算法会对弱者法外开恩。在技术系统中，个人就只是数据对象或是处理客体，而不是一个独立的个人。所以，在现阶段人们还绝不能将裁判交由机器，而机器在此领域往前踏进任何一步，都仍旧会被标记为法学伦理的禁区。


由这个案子我也想到了石黑一雄的《莫失莫忘》。那本书也曾是我一度非常钟爱的小说。石黑在小说里描写了一群克隆人，他们被制造出来的使命就是为了给人类做器官移植。但在接受了与普通人无异的教育后，克隆人也长成了和普通人类无异的样子。他们会猜忌会嫉恨会争斗，最重要的也会爱。当这些克隆人逐渐长大，希望终结自己作为人类工具的命运时，所想到的方法居然是证明自己找到了心爱之人，并愿意和他（她）长相厮守。在这里，能否爱仍旧被作为人和机器，主体和客体互相区分的标尺。


拉拉杂杂写下这些感受的时候，手机里的音乐正循环至我和雪菱最爱的哥德堡变奏曲第25变奏，古尔德演绎得清冷又疏离。雪菱曾说过，这是种色即是空的感觉。我不相信这种只可意会而无法言说的情感和审美可以由机器创造，所以我还是对人类的未来怀抱信心，尽管这种信心总会被这样那样的事情挫败。但有信才能有望也才能有更多的爱。


所以祝愿我们仨在2024年都能充满期待和盼望。


Peace & Love


赵宏


2023年12月


本文来自微信公众号：经济观察报 （ID：eeo-com-cn），作者：赵宏（中国政法大学法学院教授）