算法治理最详尽的图纸,是电子游戏

如何才能实现“活”的算法治理?

游戏与算法治理,存在概念上的深层关联:游戏是一种“活”的算法治理,算法治理也可以让游戏赋予其生命。如果说算法治理需要一个“沙盒”,那么游戏可能是最佳选择。本文来自微信公众号:腾云(ID:tenyun700),作者:朱悦,原文标题:《游戏可以为“沙盒式”算法治理带来哪些启示?》,题图来自:视觉中国

本文将从两个视角、分三个章节展开:在第一节,希望阐释游戏为何天然适于成为算法治理的“沙盒”;在第二、三节,希望从“个体自主”和“利益相关者商谈”出发,讨论如何实现“活”的算法治理。

1. 游戏是算法治理的天然“沙盒”?

治理算法,难。当下的做法,要么是选择“折衷”,要么是选择“将就”。“算法治理”已经成为了高频词汇。

“折中”,就意味着渐进、审慎或包容;“将就”,意味着在地性与灵活性。因此,关于算法治理的讨论充满了矛盾:

治理需要措施有力,但落实却要稳妥为宜;治理需要真实反馈,但落实又不能操之过急;治理期待现实效益,但最好能实现后果可逆。

正因如此,算法治理需要一个“沙盒”。

沙盒,英文为sandbox,又译为沙箱,是计算机专业术语,在计算机安全领域中是一种安全机制,为运行中的程序提供的隔离环境。通常是作为一些来源不可信、具破坏力或无法判定程序意图的程序提供实验之用。借助沙盒,可以既足以逼真地模拟算法治理的各方面影响、襄助规则完善,又要将相应风险,牢牢约束在“沙盒”之中。

其实在许多相近的领域,沙盒思维已有一定应用。

譬如,根据美利坚大学法学院副教授Hilary Allen曾分析:对于金融科技创新,监管者首先权衡促进创新、消费者保护与金融体系稳定等三方面原则,决定特定创新是否可以置入沙盒——在受限制的、试验性的条件下,让小部分用户试用创新。监管者应在试用过程中随时监测:一旦创新已“复杂得难以理解”,或“可能影响金融体系稳定”,试验即应终止。

Allen同时提出,沙盒式的监管,同样也是“监管的沙盒”:通过游戏,促进抽象的治理原则落实为妥当的具体规则。

对于算法治理的话题,再具体一些,“沙盒”意味着找到试验算法创新及其治理规则的合适机制:既可以让治理原则在实践中稳妥展开,渐进转化为更具体的规则,又可监测、控制落实规则的风险,避免对用户权益或创新发展的负面影响。

这看起来简直是一个“佯谬”的要求。但游戏(或游戏化产品)因为它在三方面的特质,天然地适于扮演沙盒角色。

首先,从游戏的历史上看,“秩序”(或规则)与“反秩序”共同构成了游戏史的两条主线。比较典型的例子是,代表秩序的军方的游戏史,以及代表反秩序、反文化的“嬉皮”的游戏史。

前者的典型案例,是美军军官Roger Smith的军用游戏史。

在游戏诞生与发展的两个关键时点上,都有浓浓的、指挥与策略导向的“迷彩色”:1948年,美国军方开发了“空战防御模型”,以及后续更为复杂的战棋模型,被认为是“最早的、电脑化的游戏”;1960年代末,出于“多地观看战棋”的实际需要,军方率先在电脑游戏的异地展示与交互上又取得了重大突破。这些游戏的“玩家”都是军方人员。

按Smith总结,这是一次为游戏“带来有吸引力的画面”的尝试,为促成“军方与爱好者社区的合作”迈出的第一步。事实上,在那些年里,美国国防部大量资助了人工智能实验室的游戏项目。

但几乎与此同时,游戏也在掀起了另一股风潮,与上述的充满“秩序”的军事化的应用形成鲜明对比。

《滚石》杂志对描绘《太空飞船(Spaceship!)》游戏曾进行过详细描述,这位作者在40年后也做对此出了回顾。

作者写道,上世纪七十年代,游戏是比迷幻摇滚更能“扩展人意识”的东西。

当时,游戏粉丝最多的地方,要数达特茅斯。

1962年,该校的学生Steve Russell设计的第一款公认的电子游戏《太空飞船》,游戏方式是两名玩家各自以杠杆和按钮操作一艘虚拟的太空船,在虚拟太空中互相发射鱼雷,直到消灭一方为止。

但很快,这款游戏便被改的“面目全非”,经过“DIY”后的太空飞船也旋即成为一股风靡全美各地的反文化风潮:大量玩家在原有内容上加入了超空间、隐身装置,当然,还有血量设置和五人联机模式。

从今天的视角看来,这是一种玩家发起的“自下而上”的互动。著名游戏学者Graeme Kirpatrick写道:

即使是通常倾向于强调计算机游戏的“军事起源论”的学者也承认,虚拟游戏是1960、1970年代间的“反文化”的起源和组成部分……

游戏既能承载铁与血的秩序,又能同时成为反文化的标杆。在某种程度上看,这也是算法治理需要面对的——我们可以期待,游戏既能容得下算法治理的强化,又能同时容纳一定程度的、自下而上的互动。

其次,顺应这段历史,我们能从游戏中看到另一重特性:游戏可以在“接近物理定律般严实的”规则中,留下充满想象力的空间。

根据著名游戏学者Jesper Juul的名篇《半真实》:游戏本就是现实规则与虚拟世界的组合与互动。正因如此,在游戏规则的框架里,我们能够以不同的方式看待世界。

对算法治理的研究者而言,游戏的“半真实性”或“半虚构性”带来了以下可能性:从游戏出发进行算法治理,未必局限于对算法中具体规则的注释、审计或更易重构,以及用户对算法的理解、诠释与重新判断。

不妨以疫情下受到算法深刻影响的“出行”为例。在通常观念下,这是在(染病)“风险”与(出行、生活)“不便”之间进行权衡的问题。因此,治理的关键在于寻找权衡的位置。

如果设计一款“抗疫类游戏”,那么便可以直观的、交互的模拟对于出行的限制,进而影响个体对位置的判断,进而影响对算法的观点。我们也更可以设想:借助Ingress等增强现实游戏的设计,可以在赋予更多“虚拟”的同时,包含价值权衡的叙事。这同样能影响对算法的观点。此二者都不在传统的算法治理选项里。

最后,引述Davis的游戏史研究,可以进一步阐明游戏的这种“刚性”与“非刚性”皆有的特性。在游戏中,“刚性”的规则(玩法)被高度封装,不易更改,甚至根本无法更改;而“非刚性”规则,易于更改,放任或鼓励玩家去更改,甚至主动提供相应的工具。

与之对比,现有的算法治理则太过“刚性”了——各项原则,很少有为用户参与留下空间;力度最大的、“拒绝自动化处理”的权利或原则,又失却了灵活性。

当下的算法治理因此变成了一种“0或1”的选择。

让治理的秩序与在地的声音间调和,在复杂的现实约束里,为价值的愿景找到空间,需要软化、刚性,提出更为丰富的、参与规则的选项。对既有的算法治理而言,趁手的选项依然不多,而反观游戏玩家与游戏规则间的互动,早已随着历史积淀了丰富的选项。

2. 重释、修改与编辑:不被“宰制”的技艺

在算法治理上,自1970年代以来,即有两根本性问题:

其一,如何令个体在可能的“算法宰制”下保持自主;

其二,如何令受算法影响的利益相关方,得以充分参与治理。

游戏在这两方面提供了一些可能性。

玩家常常拒绝全盘接受游戏开发者所预设的玩法,也不会将光盘刊刻或下载完成的游戏当作最终的“成品”。例如,“太空大战”风潮所展示的,玩家直接参与游戏中规则的构建,这早已是游戏文化的一部分。

借鉴著名游戏学者Tanja Sihvonen的著作《无所拘束的玩家!》,可初步将个体与规则的互动,划分至彼此交织的三类:

重释、修改与编辑。

首先,在游戏圈中,通过组合、排列游戏内的组件与规则,或为之赋予意义,玩家得以重释游戏。

这里最极致的体现,或许是针对游戏中的“故障艺术”:年久的游戏卡带,可能会造成色块的凌乱;污损的光盘,可能只会播出的破碎画面,但经过玩家的“解释”,借助玩家社区的力量,这些不便(或者说bug)慢慢成为了话题甚至是被大众接受的“梗”,并再次回归到、加入游戏的主题。

对此概括最精准的,是计算机领域的一句俗谚:到底是故障(bug),还是特性(feature)?我们有时很难简单在二者间选出一个明确答案。

相对来说,对应算法治理的语境中,这意味着对算法的具体理解与阐释。每当社会将信用、福利等算法规则重新阐释,便会引发规范或文化层面的后果,招致污名化,进而,污名化成为一种治理议题。这并不是开发者的本意。信用本意是预测用户偿还能力,健康码本意是反映染疫风险,社会福利本意是关注“冒领”的可能。但社会未必会遵从开发者的本意,三者都可以被重新解释,最终直指个体的内在品质。

其二,在游戏圈中,也常常存在偏离正常玩法或游戏精神的“修改”行为。

如Sihvonen所总结:“这一概念,臭名昭著般地难以定义。”修改对应着正常,这一概念,又不可避免地依赖于对“游戏精神”或开发者目的的理解。描述或许比定义更重要。

另一著名游戏学者Mia Consalvo系统总结了游戏中“修改”行为产生的四种动因:

  • 卡关,没有办法在不修改的前提下继续游戏;

  • 游历,开“上帝视角”,以求充分体验游戏;

  • 省时,因快速体验剧情,或在现实中面临时间的约束;

  • 以及最受谴责的:为了胜过他人的作弊。

这四种游戏中的动机,大多可以在算法治理中找到对应:

第一,面对设计糟糕的算法,用户常常需要想方设法去避免现实中的“卡关”;

第二,一定程度的“上帝视角”,可以让个体得以了解变动算法输入时,结果“反事实变化”成为近年来算法治理领域最有影响的提议之一;

第三,“安全”和“反作弊”,始终是算法治理的关键议题。在游戏研究中,对“修改”的伦理评价无法脱离具体的场景。面对算法治理的相应“修改”,相应的结论依然成立。

最后,是参与规则程度最深的编辑:此时玩家实质性地参与到游戏创作中,增删、更改游戏的组件、人物、场景,乃至创造新游戏。

玩家之意,其实不在本体,而在于自建地图、自定义关卡、以及更丰富的MOD。

MOD,是英文单词Modification的缩写,汉语音译作“模组”,是游戏的一种修改或增强程序。游戏模组就是将电脑游戏中的道具、武器、角色、模式、故事情节等做出修改,又或是加入新的道具和事物,常见于我的世界等沙盒类游戏。历经多年发展后,编辑器、创意工坊与MOD社区已经成为许多游戏商业模式的一部分。

此类魔改《太空大战》的行为,可以视为个体参与程度最高的算法治理:此时,算法开发者与受算法影响的个体再无截然界限:“真正地将用户和开发者放到了同等的(对系统的)控制水平上。”

虽然算法治理领域对“透明”多有批评,但游戏领域对“秩序”与“魔改”的调和、驯服与商业化依然提示着高水平参与的可能性。

3. 算法治理的GitHub

游戏为个体参与算法治理提供了丰富选项。这些选项是否合用、何时用、如何用好,取决于算法各利益攸关者的商谈。

何种阐释或重释符合治理规范?不同的“修改”是否应该允许?以及,编辑算法的具体实现限度是什么?这些问题都需要利益攸关者间的商谈机制。

算法治理,可以借鉴两类社区的成功范例:一是MOD社区;二是采取游戏化设计、且促进众多软件(自然也包括游戏)之开发的GitHub。

有关MOD社区,据著名软件与游戏研究者Walt Scacchi的观察:制作MOD,或者说编辑规则,是“一项学习如何与他人合作的实践”。希望参与制作的玩家,先跟随其他经验更为丰富的玩家,逐渐习得“如何领导一个团队”。当然,“与他人合作、创造”,也是MOD最主要的动力之一。

于是,自发涌现、自主维持的团队,渐而有能力制作大型的MOD;最主要的MOD论坛之一NexusMOD,自2001年成立以来,亦已运营达20年之久。在个体层面,“老鸟”带“新手”的“爬梯模式”,也为MOD乃至游戏产业,培养出了众多人才。

另一范例,是设计蕴涵丰富游戏化色彩、对开发者合作影响甚大的GitHub。

从细节看来,GitHub的许多设计都是典型的游戏化设计。如维也纳经济大学Johannes Wachs等研究人员的实验所示:相应的游戏化设计,确实显著提高了用户对GitHub的参与。

往更大的方面说,GitHub或类似平台的设计,为算法治理下、具备参与能力和意愿的利益攸关者间的商谈,提供了相当成功的先行示例。

当个体参与的具体选项,与承载利益攸关者商谈机制的论坛相融,我们或许有望改变算法治理的“单向灌输”模式。

在算法治理的GitHub上,以相应算法的代码原型与(部分)测试集为中心,利益攸关的个体与实体,可以沟通对算法的各层面理解、阐释与重释,得以测试算法的各类“反事实”输出,再到改进、增益算法。如此,才有希望诞生真正足以称为“知情”的“告知”,将用户和开发者放到“同等水平”,并感召更多算法治理参与者。

在这一意义上,论坛上繁荣的算法治理项目,是前述沙盒最适宜的载体,又是最充分的体现:一方面,丰富的讨论、测试甚或项目“分叉”,可以最大限度地扩充“沙盒”试验的规则范围。

在理想情况下,这一机制可以促进规则“在秩序中涌现”;而另一方面,广泛参与的实时反馈,也是对风险“苗头”最及时的监测。

4. 结语

游戏史融贯了许多彼此矛盾的侧面:秩序与“反文化”、现实规则与虚拟世界、刚性规则与非刚性规则。各表面的“张力”之间,玩家与算法规则,形成了丰富的互动选项,也形成了玩家间商谈的生态。二者均对应算法治理长久延续的根本难题,亦有直接借鉴意义。利益攸关个体在平台上商谈,实现“同等水平”的参与,将是算法治理未来的生命力所在。

至此,希望大家能对开头提出的观点有所了解,简而言之,游戏既宜于充当监管治理的“沙盒”,又为“沙盒”设计提供了直抵细节的设计图纸。

参考文献:

Allen, Hilary J. “Regulatory sandboxes.” Geo. Wash. L. Rev. 87 (2019): 579.

Consalvo, Mia. Cheating: GainingAdvantage in Videogames. MIT Press, 2009.

Galloway, Alexander R. Gaming:Essays on Algorithmic Culture. U of Minnesota Press, 2006.

Juul, Jesper. Half-Real: Video GamesBetween Real Rules and Fictional Worlds. MIT Press, 2011.

Kirkpatrick, Graeme. Computer Gamesand the Social Imaginary. Polity, 2013.

Moldon, Lukas, Markus Strohmaier, andJohannes Wachs. “How Gamification Affects Software Developers: CautionaryEvidence from a Quasi-Experiment on GitHub.” arXiv preprintarXiv:2006.02371 (2020).

“Rolling Stone”网站报道“Stewart Brand Recalls First ‘Spacewar’ Video Game Tournament”,链接:https://www.rollingstone.com/culture/culture-news/stewart-brand-recalls-first-spacewar-video-game-tournament-187669/。最后访问日期:2021年3月15日。

Scacchi, Walt. “Computer gamemods, modders, modding, and the mod scene.” First Monday (2010).

Sihvonen, Tanja. Players Unleashed!:Modding the Sims and the Culture of Gaming. Amsterdam University Press,2011.

Smith, Roger. “The long history ofgaming in military training.” Simulation & Gaming 41.1 (2010):6-19.

Sotamaa, Olli. “When the game isnot enough: Motivations and practices among computer game moddingculture.” Games and Culture 5.3 (2010): 239-255.

Wachter, Sandra, Brent Mittelstadt, andChris Russell. “Counterfactual explanations without opening the black box:Automated decisions and the GDPR.” Harv. JL & Tech. 31 (2017):841.

Wells, Matthew Jason. ColdWar Games: Operational Gaming and Interactive

Programming in Historical andContemporary Contexts. Diss. 2018.

本文来自微信公众号:腾云(ID:tenyun700),作者:朱悦

Next Post

停课的北京,焦虑的辅导班与家长

周四 3月 18 , 2021
可以恢复,仍在等待
登录 注册

热门文章