技术性正当程序在网络平台治理中的运用——以企业合规管理为视角
Technological Due Process in the Governance of Online Platforms——From the Perspective of Enterprise Compliance Management
-
摘要: 当前,由“技术+规则”双轮驱动的平台自治成为首要的网络平台治理方式。而平台权力的兴起及可能的异化风险,要求加强对平台的规制和监管。整体上,技术性正当程序具有的“宽”“疏”“广”“严”四项特征与平台治理的特殊场景相适应,成为破局的关键。在平台规则的制定、执行和申诉处理阶段,技术性正当程序分别强调听取意见、说明理由和提供有效的权利救济。为促进技术性正当程序的落地实施,应当建立多层次、灵活的程序合规体系和创新监管手段督促平台实现程序合规,并建立高效、常态的第三方算法审计制度,以全面提升对平台生态的治理能力和治理水平。Abstract: Currently, platform governance driven by the combination of "technology + rules" is emerging as the primary approach to regulate online platforms. However, the increasing power of platforms and the potential risks of their transformation require enhanced regulation and oversight. In this regard, the characteristics of technological due process, namely "broadness" "looseness" "comprehensiveness" and "strictness" align well with the unique nature of platform governance and play a crucial role in overcoming challenges. During the stages of formulating, implementing, and appealing related to platform rules, technological due process emphasizes the importance of soliciting opinions, providing justifications, and offering effective remedies for rights. To ensure the effective implementation of technological due process, it is necessary to establish a multi-level and flexible system for procedural compliance and innovative regulatory measures that encourage platforms to adhere to procedural requirements. Furthermore, the establishment of an efficient and regular third-party algorithm auditing system is essential to comprehensively enhance the governance capabilities and standards for platform ecology.
-
大数据、人工智能等新一代信息技术的应用激发了平台经济的繁荣,人们越来越依靠各种网络平台与世界交互。但有的网络平台利用技术优势并以隐蔽的方式对网络空间施加控制,带来数据歧视、隐私保护不力、资源分配不公等诸多问题。它们的内部治理过程如同黑箱,乱象丛生。如某些电商平台强制实施“二选一”、约车平台过度收集用户信息甚至存在严重影响国家安全的数据处理活动,等等[1]。
由于平台屡罚不改、屡禁不止的情况相当突出,说明单靠事后处罚根本不足以解决问题[2]。那么,我们就需要思考能否建立一种事前、事中的约束机制限制平台的恣意,提前预防损害的发生,实现对平台的有效治理。
一. 网络平台权力的异化风险与治理现状
由于资源的聚集和技术赋能(权),在网络平台的自治过程中催生了强大的平台权力,而其权力存在异化风险,因此,如何约束和规范平台权力,是数字经济时代的重要课题。
一 网络平台权力的异化风险
现今,在“技术与规则”的双轮驱动下,网络平台取得了维护平台秩序、治理平台生态的权能。一方面,平台利用自身技术优势,通过平台的架构设计,直接对用户施加影响;另一方面,平台通过输出自治规则调整各方行为。自治规则不仅规范平台内部运营流程,还协调平台与用户以及用户与用户之间的关系,成为平台的内部“法律”。平台成为一种新的治理主体,并塑造出“技术秩序”这一新的秩序类型。与政府监管相比,平台自治是基础、首要的平台治理方式[3]。
在自治过程中,平台最初拥有的是掌控自身资源、协调多边用户利益的私权利,其运营是自发、自律的,但随着平台优势地位的加强,原本的自律协调动机就会掺杂支配其他主体的意图,满足自我需要的私权利逐渐向输出规则、引导控制他人的公权力转变,进而催生出平台的数据权力或算法权力(algorithmic power)[4]。
这种新型权力的实质既是对资源的掌控,也是对自由的限制。平台依靠强大的吸附能力,通过规模化发展和消费者锁定不断获取用户数据等生产要素并加快其在网络空间中的流通,将生产要素的凝聚逐步转化为实际的掌控力。平台自治规则虽看似“软法”但并非“弱法”,在形式为合意的外观下掩盖着针对不特定多数的拘束作用和“不同意就离开”的技术霸权。这种规则和策略的落实贯穿着平台经营者管控平台的意志,与权力的属性完全吻合。权利与权力的分野逐渐模糊,网络平台演变为行使公权力的私主体。有学者甚至将网络平台和主权国家进行类比,认为其同样具有立法、执法和审判职能,成为“线上权力掮客”(online intermediaries)[5]。
的确,网络平台已不再是单纯提供信息服务、撮合交易的商业场所,而成为各领域社会资源的实际支配者和网络空间秩序的塑造者。网络平台通过行使“软权力”① [6] 对社会进行全面渗透,引导、控制用户的行为以实现其商业目的。特别是在平台掌握技术和信息双重优势的前提下,如果缺乏对其有效的规范和约束,平台会不可避免地向“独裁者”转变,进而出现权力滥用,造成破坏社会秩序、不当损害其他主体利益的后果。
需要强调的是,除了技术赋权,在有些情况下,网络平台还通过法律法规授权获得了本应由政府行使的公权力,从而具有了行政主体资格②。对平台由于法律法规的授权而获得公权力的情形, 一向为学界所忽视,并造成学界一直在平台行使的权力是“公权力”还是“私权力”问题上纠缠不休。显然,在平台实际行使公权力的场景下,适用于公权力的权力制约规则亦应适用于网络平台,以防止其“无序扩张、野蛮生长”,并促使其以一种负责任且合理的方式行使自身的权力。
二 网络平台治理之现状
有学者指出,当前,以技术和信息优势为基础的平台自治为监管机构带来“多而顾不上”“快而跟不了”“深而看不透”“新而读不懂”等一系列问题,大大增加了数字化时代平台监管的难度[7]。
1 治理实践中的“粗放型”“跟进式”立法
从我国现有法律规定来看,虽然立法普遍强调,网络平台在提供服务的过程中负有一定的法律义务与责任,例如国家安全保护义务、内容审核义务、违法犯罪预防义务、用户权益保障义务、依法依规经营义务等,并常以罚款等强制手段督促实施,表面上看,这些实体性规范能够遏制平台生态中的不良现象,但由于这些规定通常较为原则性、笼统性,实际可操作性较弱,因而效果不佳,以至于经常出现前文所述“屡教不改、屡禁不止”的问题。
此外,虽然我国已初步建立起一套涵盖法律、行政法规、规章和政府指导性文件的平台治理规范体系,但技术的迭代速度远超法律的更新速度,现有的典型“跟进式立法”往往是亡羊补牢。不难理解,对于平台治理问题,不能简单地通过增加立法的方式进行处理。因为,虽然制度补漏体现着限制平台恣意的努力,但这种亦步亦趋的跟进式立法对于网络平台这样快速发展的领域,在“猫鼠游戏”的监管博弈中,总显得落后一拍、力有不逮。
2 治理对策呈现“碎片化”“被动型”倾向
目前,有关平台治理的研究,大多是从实体规范切入,针对平台治理中的某个方面进行分析,系统性思考略有欠缺,存在“碎片化”之不足,并且很多是对平台发展过程中不断涌现的新问题进行“救火式”研究,呈现“被动型”倾向③。
造成平台治理研究呈现碎片化和被动型的原因是多方面的。一方面,平台技术日新月异,理论研究难以跟上技术发展的步伐;另一方面,囿于信息滞后、技术知识短板等因素,学界对新技术造成的潜在风险难以及时察觉,等到造成了严重后果才引起重视。碎片化与被动型研究固然也可以为平台治理提供某些解决方案,但这种研究方法提出的治理对策,也呈现“碎片化”“被动型”倾向,因此,终归是“按下葫芦浮起瓢”,难以及时回应平台技术发展带来的层出不穷的新问题。
二. 网络平台治理的新思路:技术性正当程序
在已经有大量实体法律规范但仍然难以有效实现治理目标的情况下,加强程序法治或许是平台治理的新思路。事实上,已有学者提出,鉴于网络平台具有某些公共属性,可以将针对公权力设置的监督机制和程序控制应用于网络平台[8]。而如何为平台权力的行使过程确立程序性规范,是需要深入探讨的问题。
一 运用正当程序原则为平台治理提供包容性框架
从程序法角度而言,如果权力的行使可能影响其他主体的权益,其行使过程就必须符合最低限度的程序正义标准。由普通法上的自然正义演化而来的正当程序原则是现代法治和人权保障的基石,其基本要求是:任何人不能做自己案件的法官(排除偏见);任何人行使权力可能使他人受到不利影响时必须听取对方意见(听证),并说明所作决定的理由(说明理由)。这几项要素是最低限度的程序正义之要求,对世界各国都产生了广泛而深远的影响。
正当程序在公、私法领域都要求得到遵守④[9]。在平台治理领域,不仅政府行为需要遵循正当程序,平台自治主体也应当遵守正当程序的要求。如前所述,在有些情况下,网络平台已通过技术赋能(权)或法律法规授权而实际行使公权力,因此其权力行使过程必须符合最低限度的程序正义。
正当程序原则为平台治理提供了一个能够普遍适用的包容性框架。以形式或程序要素为标准审查平台权力的行使,可以将各类不同性质的平台都纳入治理范围。同时,以程序要素的正当性要求引导平台规则,可以通过不同主体的交往与互动将外部压力引入平台内部,从关注平台权力行使的结果转向聚焦可能造成的危险,从而实现从被动应对到积极预防的转变。
不过,在数字化时代,传统正当程序要求的“事先听证”“说明理由”等权利保障措施对于瞬间即作出决定的平台自动化决策几无适用的余地,权利受到影响的主体也难以理解各种复杂的计算机程序算法。因而,传统正当程序原则在新技术场景下显得力不从心。这就要求正当程序也必须与时俱进,有效应对新技术带来的变革和挑战。
二 技术性正当程序:正当程序原则在数字化时代的演化与创新
面对大数据和人工智能等新兴信息技术对传统正当程序的冲击,2007年,时任马里兰大学法学教授希特伦(Danielle Citron)提出了技术性正当程序(Technological Due Process)的概念,强调必须以符合正当程序要求的计算机程序算法保证自动化决策的合法、合理性,从计算机程序算法设计的源头提高自动化决策的透明性和可问责性[10]。2016年,该理论被写入国际电子电气工程师协会(IEEE)发布的《人工智能设计的伦理准则》白皮书,从而得到广泛认可。
技术性正当程序仍然植根于传统的正当程序理论,但通过“排除算法歧视”“促进算法可解释”“拓展事后听证”等要求,以及算法公开、算法解释、算法审查等新的制度设计,对正当程序的核心要素进行重塑,填补了传统程序法治理论和新技术场景之间的“鸿沟”[11][12]。
总之,技术性正当程序作为一个融合新技术和传统正当程序原则的先进理论,契合平台治理“技术+规则”双轮驱动的特征,应当融入平台治理体系,推动治理焦点从外部实体法规则向平台内部程序规则迁移,以实现网络平台治理的优化与升级。
三 技术性正当程序的特征
概言之,技术性正当程序具有“宽”“疏”“广”“严”四项特征。这四个方面的特征与平台治理的特殊场景相适应。
1 “宽”:体现对平台经济的包容审慎监管
有学者指出,新业态在发展初期往往处于“非法兴起”的状态[13]。但“非法”并非“违法”,造成“非法”状态的原因往往不是新业态本身,而是因为立法的滞后性与互联网颠覆性创新的结果。此时若设置严格的法律责任、事先为市场主体划定好“活动半径”固然可以简化管理流程、降低治理成本,但很容易导致平台动辄得咎、科技创新裹足不前。为解决对互联网新业态的监管困境,我国创造性地提出了“包容审慎监管”,要求从促进创新的角度实施监管,以包容的精神鼓励技术创新,以审慎的态度对新业态进行干预⑤。 现今,“包容审慎监管”不仅是我国为促进新业态发展提出的一项公共政策,而且也成为一项新兴的行政法原则,是平台经济监管领域需要遵循的基本要求[14][15]。
包容审慎监管要求对平台既不能过度监管,束缚创新活力,也不能放任自流,导致其野蛮生长。而技术性正当程序正是平台治理领域实现包容审慎监管的有效途径。一方面,包容审慎监管意味着不给平台施加过于严苛的实体法律责任,而是通过程序要素的规定建立程序公平的最低要求,在整体风险可控的基础上给予其适度的容错空间。另一方面,技术性正当程序也为平台权力的行使划上了红线。也就是说,“包容”绝非“纵容”,“谨慎”并非“放任”[16]。包容审慎监管不是无原则的“和稀泥”,而是同样有不可碰触的“雷区”。申言之,对新业态存在的“非法状态”是否采取包容的态度,监管机构可以同时从实体法和程序法两个角度进行判断。其一,平台的行为是否符合民法、刑法等基本法律规范;其二,平台权力行使过程是否满足技术性正当程序所要求的排除偏见、听取意见、说明理由和提供救济等核心要素。一旦平台行为违反实体性基本法律规范或不符合技术性正当程序的要求,平台就应当承担相应的法律责任。
2 “疏”:四项核心要素体现最低限度的程序正义
众所周知,“正当程序”是一个具有高度灵活性的概念,很难简单概括其内涵。将符合正当性要求的程序要素一一列举是不现实的,但我们可以通过最低限度的程序正义之要求,明确技术性正当程序有哪些必不可少的核心要素。
一般认为,英国普通法中的自然正义原则(Natural Justice)是正当程序发展的源头,它包含两项基本的程序规则:排除偏见和听取意见。在此基础上,有学者根据哈贝马斯(Jürgen Habermas)的“交往行为理论”,认为自然正义的两项原则是行政主体与相对人的单向联系,缺乏双向的互动与沟通,主张“说明理由”(合理性需要证明)也是正当程序的核心要素,将正当程序原则概括为“排除偏见、听取意见、说明理由”三项核心要素,并将其应用于行政自动化决策系统,形成了人工智能时代的技术性正当程序[11]。
不难理解,在将该意义上的技术性正当程序迁移、适用于网络平台时,还需结合平台的性质和其决策过程的特殊性,将提供有效的权利救济作为技术性正当程序的核心要素之一。其原因在于,与行政领域存在行政复议、司法审查等相对完备的权利救济体系不同,在平台掌握规则制定之优势的前提下,其利益驱动的本性常常使对用户的权益保护出现“缩水”,从而造成“多权力、少救济”的局面。此外,在规则执行过程中,平台可能大幅压缩甚至完全舍弃事先听证、说明理由等传统正当程序的要求,以适应互联网的规模化特征。在此情形下,提供有效的权利救济就显得特别必要。有鉴于此,必须将提供有效的权利救济纳入到针对平台的技术性正当程序的核心要素当中,通过提供有效的权利救济,及时纠错,保障平台用户的合法权益。
因此,技术性正当程序在网络平台治理过程中体现为排除偏见、听取意见、说明理由和提供救济四项核心要素。虽然不同类别的平台由于商业模式的差异,需要分门别类制定具有针对性的程序规则,但这些形式各异的规则当中蕴含着技术性正当程序的共同追求。技术性正当程序是在各种程序规范中间寻找各方认可的最大公约数,为不同主体提供最大程度的共识,设定公众可接受的程序公平之下限,并将其作为一个形式化标准,做到“我一看便知”,避免适用过程中可能产生的争议和纷扰。相较于寻求建立一套完备的、体系化的实体性治理规则,确立技术性正当程序的四项核心要素更为现实和可行,并能收到“法网恢恢,疏而不漏”的效果。
3 “广”:全过程规范平台权力的行使
既有的技术性正当程序理论主要聚焦于行政机关如何利用人工智能技术进行自动化决策。而在平台治理领域,与行政机关相比,平台的权力范围更为广泛,包括制定自治规则、执行规则以及解决纠纷等。与之相应,对平台而言,技术性正当程序的适用范围应当涵盖平台自治规则的制定、规则的执行和对当事人的权利救济,全过程规范平台权力的行使。
首先,平台规则的制定应符合技术性正当程序的要求。众所周知,正当程序的外延不仅包括“程序性正当程序”(procedural due process),还包括“实体性正当程序”(substantive due process)[17]。因而,技术性正当程序不单单要求平台权力的行使应当遵循适当的方法、步骤、顺序、时限,还要求平台据以行使权力的规则本身具有正当的目的。也就是说,平台规则的内容应当符合“实体性正当程序”,以避免后续的执行建立在错误的根据之上,并因算法的快速迭代而呈现指数级复制和传播,从而造成更大的危害结果。技术性正当程序中的实体性因素,要求平台规则应当具有正当的目的,并且其规定的手段、措施应与意图实现的目的相适应。
其次,平台在根据法律和自治规则作出决定时应遵守技术性正当程序。平台的架构选择和算法设计,应当融入排除偏见、听取意见等要素,特别是对作出的决定必须说明理由,将正当程序的精神体现在平台规则的执行过程当中。
最后,平台提供的权利救济也应当符合技术性正当程序的要求。“有权利必有救济”,平台不仅需要给用户提供权利救济,救济还需要具有实质有效性。而在没有法律强制性要求的情况下,平台方往往从自身经济利益出发,为用户提供的权利救济“能省则省”,缺乏实际内容和效果[18]。技术性正当程序则要求平台必须为用户提供明确、合理、有效的权利救济途径和救济措施。
4 “严”:具有严格的法律效力
必须承认,平台自治规则本质上是一种自发秩序,对平台生态的治理发挥着积极作用。但是,不能以尊重市场与意思自治为由,让平台自治规则游离于法治轨道之外。技术性正当程序为平台治理设定了最基本的程序规范,是平台自治不可逾越的底线。即便是“创新”也不能成为平台违法行为的挡箭牌,实际行使公权力的网络平台不能简单地认为“法无禁止即可为”,而应当严格遵守技术性正当程序的各项要求。
由于正当程序原则是最低限度的程序正义,因此,违反技术性正当程序的行为属于严重的程序违法,本质上与无效行政行为类似⑥[19]。 当平台的行为违反技术性正当程序的要求构成“重大且明显的违法”时,可借鉴行政法上的无效行政行为制度,确认该行为自始、当然、确定地无效。
所谓的“严”,不仅要求平台应严格遵守技术性正当程序的要求,更要求政府监管机构对违反技术性正当程序的行为要及时反应、依法处置。监管机构应在支持平台根据自治规则对平台生态进行合理必要管理的同时,还以技术性正当程序为标准,加强对平台规则和各类服务协议的审查,不能以尊重平台自治为由,对违反技术性正当程序的行为放任不管、听之任之。
三. 技术性正当程序对平台治理的具体要求
网络平台形式上仍是私主体,是资源聚集和技术赋权使其获得了行使公权力的机会。平台自身的性质和决策过程的特殊性,决定了其与传统的行政机关仍然存在差别。这意味着,在将技术性正当程序适用于平台治理的过程中,不但应结合其特征对原有的内涵进行调整,还应根据平台权力行使的不同阶段,确立各有侧重的程序性规范。
从过程论的视角来看,平台权力的行使包括三个阶段:规则的制定、规则的执行和申诉处理。技术性正当程序贯穿于平台权力行使的全过程,但由于每个阶段的特点不同,技术性正当程序的要求也有不同的侧重点。在规则制定阶段侧重听取意见;在规则执行阶段关注说明理由;在申诉处理阶段强调提供有效的权利救济。
一 听取意见:保障公众参与,促进意见交流沟通
听证是正当程序的核心内容。对拥有海量用户、需要瞬间作出并执行大量决定的平台而言,虽然事后听证是听取意见的主要情形,但是这并不意味着可完全舍弃传统的事先听证。在平台制定或修改自治规则的过程中,事先的听证仍属必要。
根据哈贝马斯的交往行为理论,规则的制定过程是平台和其他主体的交往过程。在这个过程中,各方是否进行了充分的交流是判断规则之制定正当与否的重要根据。因而,保障公众的充分参与是听证程序不可或缺的内容,其实质是通过保障多元主体的表达权利,促进意见沟通,唤醒反思理性,使治理方案汇聚多方智慧、达成有效共识从而获得正当性支撑。当然,听证对“共识”的强调并不是追求多元主体之间意见的完全一致,而是通过协商深化交往过程,使多元主体得到对等的自由表达机会,互相考虑彼此利益诉求,使不同意见趋向接近、达成妥协,最终实现协同治理的目标。
众所周知,传统的公众听证会受限于时间、空间等因素,有时出现“走过场”的情况而收效不佳(如有的价格听证会出现“逢听必涨”)。相比较而言,平台空间权力结构的多元化和公民权利意识的增长使得公众不再处于完全被动服从的地位,而是有动力有能力积极参与协商。然而,由于平台内部规则的开放性不足,加之平台基于技术和资源对用户的压倒性优势地位,使用户在双方的博弈中明显处于下风,难以平等对话的问题相当突出。
尽管很多法律法规中已经规定平台规则、隐私政策的制定或者对用户权益有重大影响的修订,应当向社会公开征求意见,但是要实现这一原则性的要求,还需要更加完善和细致的配套制度来支撑。对于兼具企业属性和公共属性的平台而言,技术性正当程序中的听取意见要素,不仅应包括对用户参与权、知情权等程序性权利的保障,还应包括鼓励平台审时度势,充分发挥自身技术优势,采用图像、视频等多媒体手段增强意见交流,将交互性数字化技术嵌入产品的研发与设计当中,为各方主体参与讨论、提出建议提供高效、便捷的途径,为平台规则能够获得广泛的用户支持创造条件。
“兼听则明。”“听”要求平台在制定规则时广泛听取用户意见,但如果平台只“听”不“取”,听证就失去实质意义。听取意见要求平台不但要“听”更要“取”,即要求平台不仅应保证用户在程序中的表达机会,并实际参与到规则制定的过程中来,还要确保吸收合理的意见。用户反映意见的目的是期望影响平台规则的制定,平台只有真正采纳用户的合理意见,才能真正达到优化平台自治规则的目的。
二 说明理由:提供合理解释与“3W规则”
根据哈贝马斯交往行为理论,任何一种要求或者主张,必须说明理由才符合交往理性;交往行为始终要求一种合理的解释;应当根据解释的理由,而且仅仅根据理由来检验一方的主张是否合理[20]。在规则执行阶段,对平台而言,对其决定说明理由,可以促使其审慎地作出决定;对当事人而言,平台的说明理由可以促进其对决定内容的理解,满足受到不利影响的当事人希望知道“为什么”这一基本要求,同时也为嗣后的司法审查提供基础。
说明理由的目的是以“理”服人而非以“力”服人。平台通过对自身决定的论证,说服包括平台自身在内的相关当事人和社会公众,提高其所作决定的可接受性。因此,说明理由的实质是一个揭示“为什么”的过程。虽然基于经济效率和成本等因素的考量,平台不需要遵循与行政机关一样严格的标准,但其说明理由也应该包含三项基本要素(3W):决定是什么(What)、决定是如何做出的(How)以及为什么作出某一决定(Why)。
目前,存在的问题是,很多平台将说明理由简单地等同于“作出回应”。尽管平台大多能做到说明其决定是什么,但对于如何作出、为什么作出某一决定方面,往往存在欠缺。以微信公众号为例,某些热点事件的公众号推文有时显示“此内容因违规无法查看”。虽然微信会告知用户推文违反了有关规定,并附上相关规定的链接以供查阅,但链接的内容通常是规定的全文,用户并不能清楚地知道具体违反了哪一条款。平台的说明理由并没有实际解决用户的疑问,对屏蔽或删除决定进行监督更是“天方夜谭”。
这一问题的根源在于,现有法律法规中的说明理由制度只是一个原则性规定,对于如何说明理由常常付之阙如。网络平台在具体操作时倾向于进行模糊化处理,“打马虎眼”,从而使说明理由的要求在实际执行中徒有其名。对此,必须将说明理由的“3W”规则融入到说明理由的制度中,要求平台说明其决定是什么、为什么作出该决定以及该决定是如何作出的。易言之,平台要详细说明其作出该决定所依据的事实基础和具体规范,并披露作出该决定的推理过程,而不能仅以“根据相关举报”“不符合社区规范”等概括性、模糊性语言敷衍塞责。
三 提供有效的权利救济:规范平台线上纠纷解决机制
由于平台规模通常都很庞大,仅仅依靠传统的救济机制很可能导致诉讼案件激增、救济成本过于高昂等问题。为了在给用户提供救济的同时兼顾效率和规模化的需要,平台线上纠纷解决机制(ODR)成为重要的替代性选择。目前,有些网络平台已经开始对线上纠纷解决机制进行探索,如闲鱼的“闲鱼小法庭”⑦、淘宝的“大众评审”⑧,等等。
网络平台依托技术优势并通过“7×24 小时”全天候响应机制,可为用户提供在线服务,高效化解用户之间的小额交易纠纷。但这种机制只能应对用户之间的简单纠纷,在处理情节复杂、争议较大的案件时就无能为力。此外,某些平台的线上纠纷解决机制存在评审员选任不合理、投票过程不公开、裁判结果欠缺说理等程序性问题,可能给当事人带来“二次伤害”⑨[21]。
因此,目前的平台线上纠纷解决机制需要加强对救济流程的规范。一方面,平台在制度设计过程中需要以技术性正当程序为标准,将正当程序的核心要素融入平台争议解决系统,保障用户的程序性权利;另一方面,应特别注意畅通线上纠纷解决机制和诉讼制度的衔接。鉴于平台ODR只是替代性选择,无法完全代替司法救济,对那些无法通过平台在线解决的纠纷或当事人对平台裁决结果不满意的案件,应告知当事人有权诉诸法院,并通过制度配套(如证据保存与移交等)保障平台ODR与司法救济之间的有效衔接。
四. 通过平台合规管理促进技术性正当程序的落地实施
近年来,“企业合规管理”成为社会各界关注的焦点问题⑩。不难理解,政府是督促平台合法经营的有力主体,但由于网络平台规模之庞大和商业模式之复杂,要求其对平台所有行为都进行审查并不现实。因此,政府应当将平台的合规管理放在首位,将技术性正当程序的核心要素融入合规审查的“规范”之中,通过合规管理实现对平台生态的治理[7]。
一 建立多层次、灵活的程序合规体系
制定程序合规体系可以为平台治理中技术性正当程序的要求划定红线,成为平台适用以及行政监管的标准和依据。政府应主导标准体系制定工作,同时发挥市场机制的能动作用,通过颁布科学实用的国家强制性标准和行业标准,建立多层次、灵活的程序合规体系,将技术性正当程序的要素准则化,促进技术性正当程序的贯彻落实。
我国现有法律法规中已经有一些关于平台治理程序合规的内容,但比较零散、繁杂。监管部门需要以技术性正当程序的核心要素为抓手,精简、整合散落在各类标准与规范中的程序合规内容,制定统一的强制性规范,发布程序合规指南,为平台自治划定最低限度的程序标杆。
监管机构还应鼓励各类行业社会组织和产业联盟发挥市场主体作用,根据不同的商业模式和技术特征,在强制性国家标准的基础上对技术性正当程序的核心要素进行细化和完善,制定能兼顾公正和效率的行业指南。具体可以从以下三个维度展开。第一,针对特定技术。平台是搭载多种数字技术的复合性系统,而不同的技术带来的程序风险也呈现不同特征,因此有必要根据技术的特点与用途制定差异化合规标准。第二,针对特定主体。各平台企业还可以综合考量自身用户规模、业务种类和经济体量等情况,建立严于国家标准或者行业标准的企业内部程序合规标准⑪。第三,针对特定场景。根据应用场景建立个性化、动态化的合规流程与紧急情况豁免制度,使程序保护程度和风险相匹配。
二 创新监管手段督促平台实现程序合规
单纯期待平台主动适用程序规范,并不足以保障技术性正当程序的落实,需要行政部门加强合规监管,从外部促进技术性正当程序的实施。监管机构应以技术性正当程序为标准,加强对平台自治规则的审查,对违反技术性正当程序的行为及时反应、依法处置。
实际上,平台主动采取措施,将技术性正当程序内化为自身管理规范,不仅可避免日常经营活动中各种可能的违法风险,而且符合平台长远的发展利益。从这点来说,平台有潜在动力积极适用技术性正当程序,关键是如何把这种潜在动力激发出来转化为实际行动。
在监管手段方面,政府可结合已有的平台算法备案资料及其他数据,建立相关数据仓库,搭建合规监管预警系统,对平台程序合规情况进行分析,自动归集平台治理风险信息。同时,可灵活运用约谈、执行和解等柔性执法方式,激励平台主动寻求程序合规,实现平台从“被动合规”到“主动合规”的转变。例如,可以将平台是否制定有专项程序规范或是否建立有全面的程序合规管理体系作为签订执行和解协议的重要标准。再如,要求平台明确内部合规监督员的职责,通过平台自身定期检查程序合规整改进度,确保平台整改义务的及时履行,提升合规监管效率。
三 建立高效、常态的第三方算法审计制度
算法审计是评估平台技术规则是否符合理性和法律的重要方法。这里的算法审计和注重检测算法功能与效率的算法评估不同,其目的是对平台的算法是否符合技术性正当程序进行鉴定,旨在推动将程序理性植入平台架构选择和算法设计等技术规则之中,实现网络平台的“科技向善”。
鉴于算法审计的技术复杂性,可以考虑由政府监管部门牵头,协同行业自律组织、专家学者组成第三方提供算法审计服务。当然,从长远来看,应以市场化原则培育独立的第三方算法审计机构(如同专业的财务审计机构),专门承担该项职能[22]。
在审计流程上,首先,第三方组织应根据委托审计主体的要求,制定专门的审计目标与实施方案。其次,审计人员对平台架构和算法设计文档、运行记录等进行查验,通过人工或自动测试工具进行测试,获取相关信息,进行分析取证。继而,审计人员以法律法规、行政部门指导制定的程序合规标准体系等为依据对审计证据进行评估,并根据国家强制性标准、推荐性标准区分不同的合规度。最后,审计人员提出初步审计意见与程序合规建议,并与被审计平台进行必要的沟通交流,审慎得出审计结果并出具检测报告,作为平台合规性验证和归责处罚的依据⑫。
为实现平台算法审计的高效和常态,监管机构可组织专家团队统合算法审计方法和新技术,开发自动化审计系统,用以检测平台的程序合规水平,并根据检测结果发放不同级别的标签(如通过星级显示),将晦涩难懂的算法审计结果转化为可视的声誉评级,在提升算法审计水平的同时促进审计结果的可理解性。
算法审计工作应当把握以下原则。一是坚持持续、动态审计。由于平台经常采用机器学习等技术对算法进行更新,可能出现难以预知的增量风险,因此应持续开展动态算法审计。二是遵循分类、分级原则。应当根据平台算法的性质及运行环境制定相适应的审计方案,对重点领域的高风险算法要加强审计。三是严格保密原则。审计人员在算法审计过程中,可能接触到构成平台核心竞争力的商业秘密,因此审计机构和审计人员应当对涉及平台算法模型的训练数据集、用户数据等严格保密。
结语
现今,信息技术的进步和资源聚集赋予了非国家组织巨大的影响力,网络平台有时成为新的公权力行使主体。这种“数字利维坦”既为个人行使基本权利提供了便利条件(如借助社交平台行使表达权),也给个人权利和自由带来新的威胁。如何限制网络平台恣意行使权力,保障个人权益,同时维护社会公共利益,是当下不能忽视的研究课题。
概言之,技术性正当程序是传统正当程序原则在数字化、网络化、智能化时代的演化与创新,是在平台治理这一新领域的开疆拓土。未来,要促进平台经济健康发展,一方面需要推动传统法律理论的进步,通过法治观念的革新为平台治理提供坚实的理论支撑,另一方面,需要积极利用信息技术,创新平台治理工具,从技术和法律两个维度,全面提升对平台生态的治理能力和治理水平。
注释:
① “软权力”是指通过吸引力而非强制手段,引导他人行为达到其目的的权力。
② 如《中华人民共和国电子商务法》第27、28条授权电子商务平台对平台商家的身份地址等信息进行审查、登记,并要求电子商务平台向市场监督管理部门报送登记结果;《移动互联网应用程序信息服务管理规定》第20条授权应用程序分发平台对申请上架和更新的应用程序进行审核(如果发现违法违规情况,应用程序分发平台不得向其提供服务)。这些都是由于法律法规的授权而使平台获得公权力的例子。在这些领域,平台已成为名副其实的行政主体。
③ 当前的理论研究热点主要聚焦于“反垄断治理”“内容审查”“算法及数据治理”“用户权益保护”四个方面。
④ 作为正当程序之渊源的自然正义原则在英国普通法上最初仅适用于司法程序,后来被移植到行政程序之中,甚至在私法领域也要求得到遵守,比如雇主解雇雇员或者俱乐部开除成员等。在英国法长期的历史发展过程中,虽然自然正义的确切内容不时出现难题,但它的普遍适用性却从未受到怀疑。
⑤ 包容审慎监管原则已载入《优化营商环境条例》(行政法规,2019年颁布)。2021年《中华人民共和国科学技术进步法》修订时也加入了包容审慎监管原则。《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》亦将对新产业新业态实施包容审慎监管作为我国法治建设的长期目标。
⑥ 无效行政行为不只发生在实体法领域,在程序法领域同样存在。
⑦ “闲鱼小法庭”是二手物品交易平台闲鱼在2016年推出的解决交易纠纷的模式。当发生纠纷后,买卖一方可向“闲鱼小法庭”提出申请,闲鱼将买卖双方的材料推送给17位高信用等级的闲鱼用户,组成“陪审团”解决纠纷,被随机邀请的评审员芝麻信用需在700分以上。每位评审员投一票,买卖双方谁先获得9票就胜诉。
⑧ 淘宝网的纠纷解决模式分为“在线协商——大众评审——平台介入”三个层次,“大众评审机制”是其中的一种。《淘宝争议处理规则》第3条规定,当买卖双方发生争议时,维权发起方有权选择(且维权相对方认可)由大众评审员进行判断,淘宝网将根据大众评审员的判断结果对该争议作出处理。
⑨ 以淘宝的“大众评审”为例,该纠纷解决机制选任“评审员”的唯一标准是芝麻信用评分,评分根据平台收集的网络交易记录计算得出。但商业交易信用评分和能否公平裁判不一定有很高的相关性。并且,由于平台没有适当的奖惩措施,加之投票过程的匿名性和封闭性,导致“评审员”的裁决有时具有随意性。在平台根据投票结果作出裁判时,会直接宣布买方或卖方的要求被驳回,而不对驳回的理由进行说明。
⑩ 随着企业监管实践的发展与深化,企业合规管理的范围逐渐从央企向普通企业、从特殊领域向所有领域拓展。近五年来,有关部门相继出台了《合规管理体系指南》《企业境外经营合规管理指引》《经营者反垄断合规指南》等多部文件。2021年十三届全国人大四次会议通过的《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》更是明确提出加强合规管理,推动民营企业守法合规经营的目标。现在,合规管理不仅是企业面对违法违规后果的危机应对措施,更是一种以事先风险防控为导向的治理方式。行政部门的合规管理手段也开始向合规指引、合规承诺等柔性方式转变,使行政合规管理兼具指引与规范的双重意义。
⑪ 例如操作系统平台应重点关注应用软件调取系统权限的程序合规;应用程序分发平台应重点要求应用程序上架审核、分类管理、应急处置等程序合规;电商平台应重点关注平台服务协议和交易规则的程序合规。
⑫ 在2022年上海市普陀区人民检察院办理的全国首例数据合规案件中,检察院就商请第三方管委会抽取网信办、网络安全企业、专业协会人员组成第三方组织,全程监督、评估企业合规整改效果,并最终采纳了第三方组织的评估结果,作出了不起诉决定。该案件已经纳入最高人民检察院发布的2022年度十大法律监督案例,可见第三方审计确是企业合规性验证与归责的有力工具。
-
[1] 16项违法事实 国家网信办对滴滴处以80.26亿元罚款[EB/OL]. (2022-07-21). https://www.chinanews.com.cn/cj/2022/07-21/9808616.shtml. [2] 屡教不改, 一年被罚40多次, 新浪微博再被国家网信办约谈处罚[EB/OL]. (2021-12-14). https://baijiahao.baidu.com/s?id=1719114162528454468&wfr=spider&for=pc. [3] 江小涓. 广义数字治理与平台治理难点[EB/OL]. (2022-08-17). https://finance.sina.com.cn/zl/china/2022-08-17/zl-imizmscv6602423.shtml. [4] BUCHER T. If…Then: Algorithmic power and politics[M]. New York: Oxford University Press, 2018: 3 − 8.
[5] BLOCH-WEHBA H. Global platform governance: Private power in the shadow of the state[J]. Southern Methodist University law review, 2019(72):27 − 29.
[6] [美]约瑟夫·奈, 罗伯特·基欧汉. 权力与相互依赖[M]. 门洪华, 译. 北京: 北京大学出版社, 2002: 263 − 273. [7] 江小涓, 黄颖轩. 数字时代的市场秩序、市场监管与平台治理[J]. 经济研究,2021,56(12):20 − 41. [8] 解志勇, 修青华. 互联网治理视域中的平台责任研究[J]. 国家行政学院学报,2017(5):102 − 106. [9] WADE H W R. Administrative law[M]. Oxford: Oxford University Press, 1988: 468.
[10] CITRON D K. Technological due process[J]. Washington University law review, 2007(85):1249 − 1313.
[11] 刘东亮. 技术性正当程序:人工智能时代程序法和算法的双重变奏[J]. 比较法研究,2020(5):64 − 79. [12] 苏宇. 数字时代的技术性正当程序:理论检视与制度构建[J]. 法学研究,2023(1):91 − 107. [13] 胡凌. “非法兴起”:理解中国互联网演进的一个视角[J]. 文化纵横,2016(5):120 − 125. [14] 张效羽. 行政法视野下互联网新业态包容审慎监管原则研究[J]. 电子政务,2020(8):71 − 81. [15] 刘权. 数字经济视域下包容审慎监管的法治逻辑[J]. 法学研究,2022,44(4):37 − 51. [16] 以包容审慎的原则对待新业态、新模式[EB/OL]. (2019-03-15). http://www.xinhuanet.com/politics/2019lh/2019-03/15/c_1210083405.html. [17] CHEMERINSKY E. Constitutional law principles and policies[M]. New York: Wolters Kluwer Press, 2019: 591 − 594.
[18] SUZOR N P. Lawless: The secret rules that govern our digital lives[M]. New York: Cambridge University Press, 2019: 174.
[19] 胡建淼. “无效行政行为”制度的追溯与认定标准的完善[J]. 中国法学,2022(4):135 − 155. [20] [德]尤尔根·哈贝马斯. 交往行为理论: 行为合理性与社会合理化[M]. 曹卫东, 译. 上海: 上海人民出版社, 2004: 25 + 105. [21] 韩烜尧. 我国非司法ODR的适用与完善—以闲鱼小法庭为例[J]. 北京工商大学学报(社会科学版),2020(5):117 − 126. [22] 王平辉, 裴红斌, 赵俊舟, 等. 网络社会现代治理的挑战与对策[J]. 中国科学院院刊,2022(12):1686 − 1694. -
期刊类型引用(2)
1. 张晓炯. 结构功能主义视角下人工智能司法的张力与进路调适. 西华大学学报(哲学社会科学版). 2024(04): 74-85 . 本站查看
2. 刘国城,杨丽丽. 人工智能时代算法审计的研究态势、运行机制和实践策略. 兰州学刊. 2024(12): 77-90 . 百度学术
其他类型引用(1)
计量
- 文章访问数: 410
- HTML全文浏览量: 166
- PDF下载量: 7
- 被引次数: 3