< 上一个 | 内容 | 下一个 >

4.1 数字时代的技术差异赋权及其风险治理

互联网、人工智能和大数据等技术在改变人们生产生活方式、推进数字政府治理与改革、提升企业生产经营效率的同时,也因国家、企业和个人获取,以及运用数据信息的水平能力差异,引发数字技术对不同主体的差异赋能和参差赋权。在浩荡的数字经济大潮中,数字技术被全面、深入、广泛地运用,它在改变社会主体活动能力、方式和机遇的同时,引发深刻的社会结构与社会关系变革。这诱使数字技术的非均衡赋权超越资本运作和政权治理规律,不断加剧不同社会主体间权利/权力的结构性失衡。此时,一种“技术+法律”的分析与治理模式就成为必然选择。

4.1.1 数字技术赋权及其差异化样态

1)数字技术赋权的特性

第一,从赋权对象看,数字技术赋权针对国家、组织和社会多主体,并具有交互性。相对于传统赋权主要面向社会弱势群体,目的在于扩大边缘群体进行平等资源分配的机会与能力,数字技术赋权则具有主体多元性。该多元性也构成“技术赋能”和“技术赋权”的本质差别。“技术赋能”强调新兴数字技术对公共管理的效率提升作用,主要将对象局限于政府等公权力部门的治理行为;而“技术赋权”则指向所有主体的社会参与和治理协同价值,强调新技术传播与扩散对政治、经济和文化发展所产生的影响。

第二,从赋权方式看,数字技术赋权包括重组架构和增强话语两种。两种赋权方式在当下大数据、人工智能技术赋权中均有体现。


前者既体现为数字技术对公共部门的赋能,以及对公民个人的增权,通过双向赋权,改变之前金字塔式的权力模式和单向的权利/权力结构,进而塑造一种线上线下、虚实相生、去中心扁平化的社会结构;又体现为不再仅由权力机关操控技术治理,个人也可通过赋权机制享有一定的社会参与权。后者明确指出,所赋权利/权力本质上是主体交流中的话语权。

第三,从赋权效果看,数字技术赋权重在所引起的社会结构与社会关系变革。“数字化生存天然具有赋权的本质,这一特质将引发积极的社会变迁。”而且,数字化通讯技术在提升现代主体之间交流效率的同时,也促进了主体的权能。在当今社会治理中,大数据、物联网早已超越纯粹技术,深刻影响到社会结构和社会关系调整,促使多主体围绕某一阶段的社会公共福利,展开多层次、宽领域的整体性、交叉性治理。“网络强国”“数字中国”“智慧社会”等建设要求,从生产力和生产关系角度看,本质就是建设数智化、信息化的社会生产体系、生活体系与交往体系。

2)数字技术差异赋权的主要表现

首先,基于社会治理目标,数字技术对政府进行了最大化赋权。在数字经济时代,政府活动的数字化和信息化程度也成为衡量政府现代化水平的一个重要指标。以“政务云”平台及平台运营依赖的上百种系统和小程序为支撑,国家从数据收集、风险预警、科学决策、指挥调度,以及社会服务全方位进行数字政府和电子政务建设。在此方面,我国已然走在了世界前列,并促使政府社会治理活动正在经历前所未为的数字化转型。即以获取、共享和分析数据为基础,以面向和经由数据的治理为机制,重构政府、市场和社会关系,努


力形成“用数据说话、用数据决策、用数据管理、用数据创新”的治理体系。此时,数字技术必然与政府治理密切相关。

其次,在经济效益驱动下,数字技术对企业的赋权也不断强化。在互联网、人工智能和大数据等新技术推动下,我们迎来一个快速发展的数字经济时代。中国在此轮技术革命中更是成就斐然,无论是车联网、人工智能、大数据、云计算和 VR/AR 产业规模,还是相关科技企业融资与盈利,均位于世界先进水平,实现了数字经济时代的“弯道超车”。数字技术发展之所以在商业活动中获得最快发展,既是因为二者有着共同的数字经济发展目标,还是因为相比政治领域,经济领域提供了更强的灵活性和更大的试错空间。在数字红利驱动下,一些大型技术公司凭借强大的数据收集、存储和处理能力,顺利地进行着政企合作,并借助所获取的关键数据,最大限度地发挥数据的价值。

再次,受我国“大政府”体制影响,数字技术对个人的赋权实效并不乐观。依据技术赋权理论,数字技术赋权个人重在提升其在公共活动中的话语权。但现实中,公共参与却并非数字技术赋权个人的最主要内容。一方面,虽然互联网提供了民主参与的渠道,但政府的“信息控制者”角色却全程监控该民主活动;另一方面,由于数字信息获取使用需要一系列的主体及环境条件,该数字参与只是拓展了少数人或精英群体参与社会活动的便捷性,对于广大社会公众而言,他们对数字技术的运用仍止于便捷生活,并不关心所涉权利问题。

4.1.2 数字技术差异赋权引发的现实风险

第一,塑造强大的“数字利维坦”。随着数据时代的到来,人们


的生活方式、工作方式因技术变革而日渐便捷,使人们越来越深切地感受到某种“受缚于数字”的无奈感,这一现象背后隐藏数字技术滥用的新型危机,即“数字利维坦”。这是数字技术差异赋权带来的最直接风险,主要存在于国家与个人关系处理场域,是盲目追求“全景式监控”所产生的必然结果。当技术发展到大数据和人工智能时代,数字技术全面深入到社会生活方方面面,其影响也从经济领域扩展到政治领域,一旦数字技术被国家所俘获用于社会控制和政治权力再生产,“数字利维坦”必然演化成为国家利维坦的新形式。一方面,国家“利用人工智能技术的价值和工具理性编织新型的权力网络,国家意志通过算法制定得以展现,以此加强监控能力和社会管理能力。”另一方面,国家又借助其权力结构,以及与高科技企业的密切“合作”,获得最高的赋权契机,拓展新型数字化权力。此“数字利维坦”的影响可分为直接和间接两种。所谓直接影响主要指的是数字监控。在数字化生存中,政府通过数字治理使“压服”变得直接有效,具体表现为,借助强大的监控和数据分析系统,威胁公民的隐私保护和合法权益;依靠对数字技术及算法分析结果的盲目依赖,导致数据独裁并剥夺人类的自由意志选择;固化信息产生和传输路径,引爆国家安全问题;提供极端主义的温床,加剧社会破裂化风险。相比之下,间接影响主要指的是话语权控制。由于数字政治的非均衡,政府与个体在技术与信息的掌握和使用方面天然不对称。不断变化的新技术不仅最先由国家精英团体掌握并操控,而且还因公权力的社会治理特性,使国家继续获得新兴技术的解释权。

第二,导致平台控制与垄断信息资源。相比“数字利维坦”,该


风险主要存在于拥有信息控制权的互联网企业与个人的关系处理场 域,是数字技术赋权企业与个人之矛盾体现。尽管相对于国家,企 业和个人同属“弱势一方”,但企业组织尤其是大型数据控制企业在 数据信息的获取、加工和使用中优于个人已是不争事实。大数据时 代的经济日趋成为平台经济和流量经济,当数据信息作为全新生产 要素投入到企业生产经营的各环节,趋于“理性经济人”的盈利性 本质,个人想获得某些有价信息就必须付出相应的隐私或资本对价。在利益导向下,平台私权力作为“巨大的力量倍增器”,不仅名正言 顺地行使一些公权力职能,而且在定向推送中,剥夺了公民的选择 权。该信息资源垄断与控制主要源于自动化决策过程中,互联网企 业对技术赋权的过度使用。现代信息技术诱惑人类把判断交给数据,并进一步依靠算法进行决策。在数据“喂养”下,算法又不断实现 对传统决策歧视现象的复现、加剧与新增。从当下信息实践及学者 关注来看,算法歧视其实纳入了两类构形相近但性质迥异的歧视类 型。其一是反垄断语境下的价格歧视,该类型最典型的就是“大数 据杀熟”。其核心问题是经营者依靠大数据和算法决策进行差别对待,进而威胁社会公平。其二是平等权语境下的身份歧视,主要呈现为 基于性别、残障、种族,以及传染病原携带等特定集体身份实施的 区别对待或造成的区别影响。

第三,加剧数字不平等和公民离散。该风险主要存在于数字技术向社会公众赋权过程中,因公民个体获取和运用数据信息的能力及水平不同,所产生的数字技术赋权差异是一种数字不平等。“数字不平等”产生于数字技术对不同公民个体的非均衡赋权,其最终结果是公民主体间的数字红利差异,以及参与社会活动时的公民离散。


数字技术设计之初,我们预设公民具有大体相当的信息接受与处理能力,但实际上,公民个体之间却客观存在不容忽视的技术能力差别,而且伴随社会活动数字化程度不断深入。相比前两者,该类型差异赋权风险较为隐蔽,但却不可被忽视。当前,我们对大数据、人工智能等技术的评价仍是采用一种“低伦理维度”标准,未能从数字红利平等和数据要素分配正义角度来考量。数字不平等和公民离散主要展现在两个层面。一是数字技术本身蕴含运用中的实质不平等。对此,最典型的就是算法本身。现代算法之运用大都蕴含着一个前提——所面对的主体都乐意而且有能力参与到信息收集中,此时社会弱势群体就会被刻意忽略。在信息分类和识别中,弱势群体的回应往往会被计算模型当作杂音或无用数据,因而自然成为数据收集中的暗点或盲点。二是“信息茧房”效应造成知识碎片化,进而影响人们的理性思考。

4.1.3 数字技术风险法律规控的具体展开

1)明确公民信息权利及框定公权力监控边界

在数字技术差异赋权的法律规控中,首先要处理的就是国家公权力与个人私权利之间的结构性失衡。借助数字技术实现的便捷赋能,国家往往会秉持社会治理目的,扩大公权力监控的边界。在数字时代的虚拟社会里,公权力监控的核心目的主要有二个,一是鼓励创新;二是保障安全。这两方面目的,也大体设置了信息处理活动中公权力监控的边界。前者是为了维护科技的进步,避免我们在本轮数字信息革命中处于劣势而再次饱受欺凌;后者是为了证成安全对于政治社会的重要意义,通过国家权威拱卫自己的“自由领地”。

然而现实中,该公权力监控的边界却很容易僭越。由于我国非


常强调政府信息保密工作,以及全面推行开来的实名制,均使得一个一个的“秘密花园”成为市政广场的建设用地。当由上至下的监管目标易于达成,而由下至上的监督目的易于失效,克服社会治理纯技术依赖带来的主体地位差异,以及避免精英阶层权力的延伸失控与失灵矛盾的最有效手段就是借助重新赋权,将被智能技术“索取”的权利重新赋予公民,积极保障公民的信息权益,在强化对个人信息主体赋权的同时严格信息处理者义务。具体到操作中,主要就是借助新兴权利理论,塑造并保护公民个人的信息权利。该个人信息权利重点集中于两点,第一,通过确认数字身份重建社会关系。第二,界定公民信息权利。公民信息权利作为一种类型权利,由多项子权利构成。该权利设置主要针对政府、互联网企业的信息垄断和信息控制行为,其在理论上并不必然与特定的部门法相联系。因此,当前越来越多的学者将信息权利作为领域法中的权利,立足整个信息社会背景来反思。

2)遵从数字资本运作逻辑规制自动化决策

不同于政府只是将数字化技术作为社会治理的工具,企业直接将数字化技术作为自身发展的内容,它们全面参与数字经济建设及数字技术开发,甚至将数字化程度作为企业的生命。此时,数字活动在企业间就悄然生成一套以知识、信息和数据为核心要素的数字资本运作逻辑。该逻辑是在已有法律设定的规范框架内,通过具有数据处理能力的平台组织生产,通过数字劳动生产社会关系,通过风险投资来实现资本最大化,以及通过交易和消费行为进行大数据统计。其核心在于借助不断完善的“关系化”,形成一般数据并依此做出决策。


此时,如何在保证数据充分流动和交易前提下,维持个人信息权利保护与企业发展创新之间的均衡,才是问题解决之本。基于数字资本运作逻辑,当下学者对自动化决策的法律规制主要集中于两点,即警惕中立立场被贴上“多数人同意”标签,以及避免利益相关者间的商谈成为摆设。围绕这两方面,学者们要么从完善算法程序、确保“知情-同意”、设定自动决策模型等方面出发,进行算法歧视的内部规制;要么从歧视的一般性理解出发,借助基本民事立法、经济立法,以及劳动与社会保障法,基于相关权利保障中的责任义务设置进行外部规制。其目的都是保证公民在公共信息及社会决策面前的知情、同意、参与和监督权利,建构起算法规制的法律框架。从当下来看,该自动化决策的法律规制主要还是诉诸立法。除了制定《个人信息保护法》《网络安全法》等为数字化生活中的公民信息权益保障提供直接依据外,而且针对平台信息垄断和算法推荐两种最典型行为,国务院反垄断委员会及国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局四部门也分别出台《国务院反垄断委员会关于平台经济领域的反垄断指南》和《互联网信息服务算法推荐管理规定(征求意见稿)》,对平台算法权力监管作出尽可能具体化的规定,从行政角度出发设置主体责任和处罚标准。

3)通过-法体系保障公民的平等参与权

该保障主要针对“数字不平等”及公民离散问题,是对公民主体之间差异赋权的法律回应。在宪法上,该权益也常被界定为公民平等参与权的内容。实践中,该平等参与权的法律保障遵从下述逻辑。

第一,明确法律原则。该原则也是弱势群体权利保障的指引思


想。主要包括两点,首先,平等保护原则。即在“强弱并存”的数字社会,我们对“数字弱势群体”之平等参与权的回应。其次,倾斜保护原则。相比平等保护原则主要强调形式正义,该原则更多地是从实质正义层面考量。

第二,完善法律体系。体现在当下已有的法律规范中,并未针对数字技术赋权的差异性,以及信息公平等问题专门立法,有关公民数字素养和企业数字伦理的规范也只是停留于政策层面,但我们仍可以从已有立法中探寻保障各社会主体信息公平及数据信息权益的规范依据。比如,在《老年人权益保障法》《残疾人保障法》及《无障碍环境建设条例》中,都通过设定国家的救助义务,满足该弱势群体的信息获取与运用权益;在《个人信息保护法》《数据安全法》等新兴立法中,针对不同社会主体在信息处理活动中的不平等地位,设定劣势一方权益保障的规范条文,并通过法解释将其适用于司法实践。

第三,确定主体义务。该义务既是确定法律责任的依据和前提,又是化解平等主体非均衡社会参与的保障。数据信息蕴含的信息利益和人权价值,既可为实现不同社会群体之间的信息公平提供公法/私法双重保护,又有助于确定阻碍信息公平实现的信息控制主体,明确其在具体监管、保障及协助方面的责任义务。结合数字技术非均衡赋权样态,该义务主要包括国家的当然义务和平台的特定义务两类。前者包括,强化基础设施建设和普及,保证公共信息便捷获取和使用,制/修订智能产品运用及平台监管法规,承担弱势群体培训与教育,以及就高频服务事项设置线下办事渠道等;后者包括,进行产品适老化改革并提供有效备选,基于算法审核抑制不平等的


信息处理,探索多元化信息投放和均衡化信息分配,以及将非歧视设为人工智能开发的行为规范等。

4.1.4 小结

伴随数据信息成为基本社会资源和重要生产要素,数字技术也以新理念、新业态、新模式全面融入人类经济、政治、文化、社会建设各领域和全过程。面对现代数字技术差异赋权引发的现实风险,我们必须在已有的技术性回应基础之上,探寻必要的制度性回应方式,其中最主要的就是对此差异化赋权进行法律规控。此时,如何借助法律规范的制定与实施,规制数字技术对国家、数据控制企业及个人的非均衡赋权难题,保证信息在不同社会主体间公平分配,让更多社会主体共享数字红利,已成为数字社会公平正义的应有之义。从最终效果来看,该法律规控既可以促进完善有关数据权益及个人信息保护的规范依据,又可以通过明确国家、大数据平台的法律义务,实现社会主体之间的数字红利互补。