游戏与算法治理，存在概念上的深层关联：游戏是一种“活”的算法治理，算法治理也可以让游戏赋予其生命。如果说算法治理需要一个“沙盒”，那么游戏可能是最佳选择。本文来自微信公众号：腾云（ID：tenyun700），作者：朱悦，原文标题：《游戏可以为“沙盒式”算法治理带来哪些启示？》，题图来自：视觉中国


本文将从两个视角、分三个章节展开：在第一节，希望阐释游戏为何天然适于成为算法治理的“沙盒”；在第二、三节，希望从“个体自主”和“利益相关者商谈”出发，讨论如何实现“活”的算法治理。


1. 游戏是算法治理的天然“沙盒”？


治理算法，难。当下的做法，要么是选择“折衷”，要么是选择“将就”。“算法治理”已经成为了高频词汇。


“折中”，就意味着渐进、审慎或包容；“将就”，意味着在地性与灵活性。因此，关于算法治理的讨论充满了矛盾：


治理需要措施有力，但落实却要稳妥为宜；治理需要真实反馈，但落实又不能操之过急；治理期待现实效益，但最好能实现后果可逆。


正因如此，算法治理需要一个“沙盒”。


沙盒，英文为sandbox，又译为沙箱，是计算机专业术语，在计算机安全领域中是一种安全机制，为运行中的程序提供的隔离环境。通常是作为一些来源不可信、具破坏力或无法判定程序意图的程序提供实验之用。借助沙盒，可以既足以逼真地模拟算法治理的各方面影响、襄助规则完善，又要将相应风险，牢牢约束在“沙盒”之中。


其实在许多相近的领域，沙盒思维已有一定应用。


譬如，根据美利坚大学法学院副教授Hilary Allen曾分析：对于金融科技创新，监管者首先权衡促进创新、消费者保护与金融体系稳定等三方面原则，决定特定创新是否可以置入沙盒——在受限制的、试验性的条件下，让小部分用户试用创新。监管者应在试用过程中随时监测：一旦创新已“复杂得难以理解”，或“可能影响金融体系稳定”，试验即应终止。


Allen同时提出，沙盒式的监管，同样也是“监管的沙盒”：通过游戏，促进抽象的治理原则落实为妥当的具体规则。


对于算法治理的话题，再具体一些，“沙盒”意味着找到试验算法创新及其治理规则的合适机制：既可以让治理原则在实践中稳妥展开，渐进转化为更具体的规则，又可监测、控制落实规则的风险，避免对用户权益或创新发展的负面影响。


这看起来简直是一个“佯谬”的要求。但游戏（或游戏化产品）因为它在三方面的特质，天然地适于扮演沙盒角色。


首先，从游戏的历史上看，“秩序”（或规则）与“反秩序”共同构成了游戏史的两条主线。比较典型的例子是，代表秩序的军方的游戏史，以及代表反秩序、反文化的“嬉皮”的游戏史。


前者的典型案例，是美军军官Roger Smith的军用游戏史。


在游戏诞生与发展的两个关键时点上，都有浓浓的、指挥与策略导向的“迷彩色”：1948年，美国军方开发了“空战防御模型”，以及后续更为复杂的战棋模型，被认为是“最早的、电脑化的游戏”；1960年代末，出于“多地观看战棋”的实际需要，军方率先在电脑游戏的异地展示与交互上又取得了重大突破。这些游戏的“玩家”都是军方人员。


按Smith总结，这是一次为游戏“带来有吸引力的画面”的尝试，为促成“军方与爱好者社区的合作”迈出的第一步。事实上，在那些年里，美国国防部大量资助了人工智能实验室的游戏项目。


但几乎与此同时，游戏也在掀起了另一股风潮，与上述的充满“秩序”的军事化的应用形成鲜明对比。


《滚石》杂志对描绘《太空飞船（Spaceship!）》游戏曾进行过详细描述，这位作者在40年后也做对此出了回顾。


作者写道，上世纪七十年代，游戏是比迷幻摇滚更能“扩展人意识”的东西。



当时，游戏粉丝最多的地方，要数达特茅斯。


1962年，该校的学生Steve Russell设计的第一款公认的电子游戏《太空飞船》，游戏方式是两名玩家各自以杠杆和按钮操作一艘虚拟的太空船，在虚拟太空中互相发射鱼雷，直到消灭一方为止。



但很快，这款游戏便被改的“面目全非”，经过“DIY”后的太空飞船也旋即成为一股风靡全美各地的反文化风潮：大量玩家在原有内容上加入了超空间、隐身装置，当然，还有血量设置和五人联机模式。


从今天的视角看来，这是一种玩家发起的“自下而上”的互动。著名游戏学者Graeme Kirpatrick写道：


即使是通常倾向于强调计算机游戏的“军事起源论”的学者也承认，虚拟游戏是1960、1970年代间的“反文化”的起源和组成部分……


游戏既能承载铁与血的秩序，又能同时成为反文化的标杆。在某种程度上看，这也是算法治理需要面对的——我们可以期待，游戏既能容得下算法治理的强化，又能同时容纳一定程度的、自下而上的互动。


其次，顺应这段历史，我们能从游戏中看到另一重特性：游戏可以在“接近物理定律般严实的”规则中，留下充满想象力的空间。


根据著名游戏学者Jesper Juul的名篇《半真实》：游戏本就是现实规则与虚拟世界的组合与互动。正因如此，在游戏规则的框架里，我们能够以不同的方式看待世界。


对算法治理的研究者而言，游戏的“半真实性”或“半虚构性”带来了以下可能性：从游戏出发进行算法治理，未必局限于对算法中具体规则的注释、审计或更易重构，以及用户对算法的理解、诠释与重新判断。


不妨以疫情下受到算法深刻影响的“出行”为例。在通常观念下，这是在（染病）“风险”与（出行、生活）“不便”之间进行权衡的问题。因此，治理的关键在于寻找权衡的位置。


如果设计一款“抗疫类游戏”，那么便可以直观的、交互的模拟对于出行的限制，进而影响个体对位置的判断，进而影响对算法的观点。我们也更可以设想：借助Ingress等增强现实游戏的设计，可以在赋予更多“虚拟”的同时，包含价值权衡的叙事。这同样能影响对算法的观点。此二者都不在传统的算法治理选项里。


最后，引述Davis的游戏史研究，可以进一步阐明游戏的这种“刚性”与“非刚性”皆有的特性。在游戏中，“刚性”的规则（玩法）被高度封装，不易更改，甚至根本无法更改；而“非刚性”规则，易于更改，放任或鼓励玩家去更改，甚至主动提供相应的工具。


与之对比，现有的算法治理则太过“刚性”了——各项原则，很少有为用户参与留下空间；力度最大的、“拒绝自动化处理”的权利或原则，又失却了灵活性。


当下的算法治理因此变成了一种“0或1”的选择。


让治理的秩序与在地的声音间调和，在复杂的现实约束里，为价值的愿景找到空间，需要软化、刚性，提出更为丰富的、参与规则的选项。对既有的算法治理而言，趁手的选项依然不多，而反观游戏玩家与游戏规则间的互动，早已随着历史积淀了丰富的选项。


2. 重释、修改与编辑：不被“宰制”的技艺


在算法治理上，自1970年代以来，即有两根本性问题：


其一，如何令个体在可能的“算法宰制”下保持自主；


其二，如何令受算法影响的利益相关方，得以充分参与治理。


游戏在这两方面提供了一些可能性。


玩家常常拒绝全盘接受游戏开发者所预设的玩法，也不会将光盘刊刻或下载完成的游戏当作最终的“成品”。例如，“太空大战”风潮所展示的，玩家直接参与游戏中规则的构建，这早已是游戏文化的一部分。


借鉴著名游戏学者Tanja Sihvonen的著作《无所拘束的玩家！》，可初步将个体与规则的互动，划分至彼此交织的三类：


重释、修改与编辑。


首先，在游戏圈中，通过组合、排列游戏内的组件与规则，或为之赋予意义，玩家得以重释游戏。


这里最极致的体现，或许是针对游戏中的“故障艺术”：年久的游戏卡带，可能会造成色块的凌乱；污损的光盘，可能只会播出的破碎画面，但经过玩家的“解释”，借助玩家社区的力量，这些不便（或者说bug）慢慢成为了话题甚至是被大众接受的“梗”，并再次回归到、加入游戏的主题。


对此概括最精准的，是计算机领域的一句俗谚：到底是故障（bug），还是特性（feature）？我们有时很难简单在二者间选出一个明确答案。


相对来说，对应算法治理的语境中，这意味着对算法的具体理解与阐释。每当社会将信用、福利等算法规则重新阐释，便会引发规范或文化层面的后果，招致污名化，进而，污名化成为一种治理议题。这并不是开发者的本意。信用本意是预测用户偿还能力，健康码本意是反映染疫风险，社会福利本意是关注“冒领”的可能。但社会未必会遵从开发者的本意，三者都可以被重新解释，最终直指个体的内在品质。


其二，在游戏圈中，也常常存在偏离正常玩法或游戏精神的“修改”行为。


如Sihvonen所总结：“这一概念，臭名昭著般地难以定义。”修改对应着正常，这一概念，又不可避免地依赖于对“游戏精神”或开发者目的的理解。描述或许比定义更重要。


另一著名游戏学者Mia Consalvo系统总结了游戏中“修改”行为产生的四种动因：


  • 卡关，没有办法在不修改的前提下继续游戏；


  • 游历，开“上帝视角”，以求充分体验游戏；


  • 省时，因快速体验剧情，或在现实中面临时间的约束；


  • 以及最受谴责的：为了胜过他人的作弊。


这四种游戏中的动机，大多可以在算法治理中找到对应：


第一，面对设计糟糕的算法，用户常常需要想方设法去避免现实中的“卡关”；


第二，一定程度的“上帝视角”，可以让个体得以了解变动算法输入时，结果“反事实变化”成为近年来算法治理领域最有影响的提议之一；


第三，“安全”和“反作弊”，始终是算法治理的关键议题。在游戏研究中，对“修改”的伦理评价无法脱离具体的场景。面对算法治理的相应“修改”，相应的结论依然成立。


最后，是参与规则程度最深的编辑：此时玩家实质性地参与到游戏创作中，增删、更改游戏的组件、人物、场景，乃至创造新游戏。


玩家之意，其实不在本体，而在于自建地图、自定义关卡、以及更丰富的MOD。


MOD，是英文单词Modification的缩写，汉语音译作“模组”，是游戏的一种修改或增强程序。游戏模组就是将电脑游戏中的道具、武器、角色、模式、故事情节等做出修改，又或是加入新的道具和事物，常见于我的世界等沙盒类游戏。历经多年发展后，编辑器、创意工坊与MOD社区已经成为许多游戏商业模式的一部分。


此类魔改《太空大战》的行为，可以视为个体参与程度最高的算法治理：此时，算法开发者与受算法影响的个体再无截然界限：“真正地将用户和开发者放到了同等的（对系统的）控制水平上。”


虽然算法治理领域对“透明”多有批评，但游戏领域对“秩序”与“魔改”的调和、驯服与商业化依然提示着高水平参与的可能性。



3. 算法治理的GitHub


游戏为个体参与算法治理提供了丰富选项。这些选项是否合用、何时用、如何用好，取决于算法各利益攸关者的商谈。


何种阐释或重释符合治理规范？不同的“修改”是否应该允许？以及，编辑算法的具体实现限度是什么？这些问题都需要利益攸关者间的商谈机制。


算法治理，可以借鉴两类社区的成功范例：一是MOD社区；二是采取游戏化设计、且促进众多软件（自然也包括游戏）之开发的GitHub。


有关MOD社区，据著名软件与游戏研究者Walt Scacchi的观察：制作MOD，或者说编辑规则，是“一项学习如何与他人合作的实践”。希望参与制作的玩家，先跟随其他经验更为丰富的玩家，逐渐习得“如何领导一个团队”。当然，“与他人合作、创造”，也是MOD最主要的动力之一。


于是，自发涌现、自主维持的团队，渐而有能力制作大型的MOD；最主要的MOD论坛之一NexusMOD，自2001年成立以来，亦已运营达20年之久。在个体层面，“老鸟”带“新手”的“爬梯模式”，也为MOD乃至游戏产业，培养出了众多人才。


另一范例，是设计蕴涵丰富游戏化色彩、对开发者合作影响甚大的GitHub。


从细节看来，GitHub的许多设计都是典型的游戏化设计。如维也纳经济大学Johannes Wachs等研究人员的实验所示：相应的游戏化设计，确实显著提高了用户对GitHub的参与。


往更大的方面说，GitHub或类似平台的设计，为算法治理下、具备参与能力和意愿的利益攸关者间的商谈，提供了相当成功的先行示例。


当个体参与的具体选项，与承载利益攸关者商谈机制的论坛相融，我们或许有望改变算法治理的“单向灌输”模式。


在算法治理的GitHub上，以相应算法的代码原型与（部分）测试集为中心，利益攸关的个体与实体，可以沟通对算法的各层面理解、阐释与重释，得以测试算法的各类“反事实”输出，再到改进、增益算法。如此，才有希望诞生真正足以称为“知情”的“告知”，将用户和开发者放到“同等水平”，并感召更多算法治理参与者。


在这一意义上，论坛上繁荣的算法治理项目，是前述沙盒最适宜的载体，又是最充分的体现：一方面，丰富的讨论、测试甚或项目“分叉”，可以最大限度地扩充“沙盒”试验的规则范围。


在理想情况下，这一机制可以促进规则“在秩序中涌现”；而另一方面，广泛参与的实时反馈，也是对风险“苗头”最及时的监测。


4. 结语


游戏史融贯了许多彼此矛盾的侧面：秩序与“反文化”、现实规则与虚拟世界、刚性规则与非刚性规则。各表面的“张力”之间，玩家与算法规则，形成了丰富的互动选项，也形成了玩家间商谈的生态。二者均对应算法治理长久延续的根本难题，亦有直接借鉴意义。利益攸关个体在平台上商谈，实现“同等水平”的参与，将是算法治理未来的生命力所在。


至此，希望大家能对开头提出的观点有所了解，简而言之，游戏既宜于充当监管治理的“沙盒”，又为“沙盒”设计提供了直抵细节的设计图纸。


参考文献：

Allen, Hilary J. "Regulatory sandboxes." Geo. Wash. L. Rev. 87 (2019): 579.

Consalvo, Mia. Cheating: GainingAdvantage in Videogames. MIT Press, 2009.

Galloway, Alexander R. Gaming:Essays on Algorithmic Culture. U of Minnesota Press, 2006.

Juul, Jesper. Half-Real: Video GamesBetween Real Rules and Fictional Worlds. MIT Press, 2011.

Kirkpatrick, Graeme. Computer Gamesand the Social Imaginary. Polity, 2013.

Moldon, Lukas, Markus Strohmaier, andJohannes Wachs. "How Gamification Affects Software Developers: CautionaryEvidence from a Quasi-Experiment on GitHub." arXiv preprintarXiv:2006.02371 (2020).

“Rolling Stone”网站报道“Stewart Brand Recalls First ‘Spacewar’ Video Game Tournament”，链接：https://www.rollingstone.com/culture/culture-news/stewart-brand-recalls-first-spacewar-video-game-tournament-187669/。最后访问日期：2021年3月15日。

Scacchi, Walt. "Computer gamemods, modders, modding, and the mod scene." First Monday (2010).

Sihvonen, Tanja. Players Unleashed!:Modding the Sims and the Culture of Gaming. Amsterdam University Press,2011.

Smith, Roger. "The long history ofgaming in military training." Simulation & Gaming 41.1 (2010):6-19.

Sotamaa, Olli. "When the game isnot enough: Motivations and practices among computer game moddingculture." Games and Culture 5.3 (2010): 239-255.

Wachter, Sandra, Brent Mittelstadt, andChris Russell. "Counterfactual explanations without opening the black box:Automated decisions and the GDPR." Harv. JL & Tech. 31 (2017):841.

Wells, Matthew Jason. ColdWar Games: Operational Gaming and Interactive

Programming in Historical andContemporary Contexts. Diss. 2018.


本文来自微信公众号：腾云（ID：tenyun700），作者：朱悦