俄罗斯、中国和欧洲的法治和决策算法化:法律监管个性化的前景
算法化和决策自动化最近传播得更广泛,并且变得更加自主。 与此同时,法治原则,其主要组成部分在各种法律制度中被称为透明度和问责制,可预测性和一致性,法律面前人人平等,受到决策个性化的压力。 国家职能的算法化导致了法律法规的个性化,损害了公民和法律实体的平等,这一点得到了建立信任社会的信用体系的证实:中国的社会,意大利和奥地利的环境。
关键词:法治、自动化决策、人工智能、社会信用体系、中国.
俄罗斯,中国,欧洲的法律至上和决策算法的发展:法律法规个性化前景
导言
自动决策支持算法用于可能对此过程进行形式化描述的情况<1>。 与此同时,引入所谓的智能决策支持系统的有效性在自动控制理论中是合理的<2>。
--------------------------------
<1>决策过程正式化的一个例子可以是海关立法的规定,当有必要根据数字代码估计进口货物分配给特定群体的海关支付金额时(2021年9月9日莫斯科地区仲裁法院的决议n F05-21112/2021,案件N A40-265208/2020)。
<2>Tikhanychev O.V.决策支持自动化理论与实践:专着。 编辑,警察。 2018. 75页。
智能决策支持系统广泛应用于公共行政和商业领域. 它们很久以前就出现了,是二十世纪60年代数据库中事务处理系统的继承人。 <3>. 最初,这些系统是作为数据库构建的,配备了具有数值建模功能的附加组件。 然而,随着行业的发展,他们已经获得了足够的自主权来做出决定,而不是一个人。 与此同时,这方面的特别法律规定主要集中在处理个人资料上。 在这方面,我们提请注意这样一个事实,即智能自动化决策系统的引入导致了对法治理论的重新思考。
--------------------------------
<3>Garcia-Molina H.在分布式数据库中使用语义知识进行事务处理//数据库系统(TODS)上的ACM事务。 1983. 卷。 8. 国际空间站。 2. 第186-213页。
我们发现,共同规则的创建和决策过程的普遍标准化,导致特定法律主体的法律后果,结合人工智能算法和数据分析的使用,导致法律监管的个性化。 让我们以个人数据监管为例,考虑自动化决策对重新思考法治理论的法律影响,同时考虑到不同国家的立法和实践。
法治学说的主要要素
法治作为一项法律原则并未明确载入立法,但具有全面性。 根据布莱克法律词典的简要定义,法治一词是指具有普遍适用性的法律原则,由当局的认可授权,通常以格言或合法声明的形式表达。 它被称为规则,因为在可疑或不可预见的情况下,它是解决它们的指南或规范<4>。 V.D.Zorkin指出,法治概念与法治一起包括各种要素,包括:以法律平等为基础的法律制度;决定法律含义、内容和适用的人权和基本自由; 法律的稳定性,确保法律关系参与者的有序和可预测的行为,在一定时期内计划和协调行动的能力;独立,公正,公平正义的存在<5>。
--------------------------------
<4>
<5>Zorkin V.D.法治和文明会议//宪法司法杂志。 2008. N1. 第2-9页。
所有法律制度中法治学说的主要组成部分包括透明度和问责制、可预测性和一致性、法律面前人人平等<6>。
--------------------------------
<6>Bingham L.法治//剑桥法律杂志。 2007. 卷。 66. 国际空间站。 1. 第67-85页。
透明度和问责制的前提是,当局遵守宣传其决定的要求,并对其向公众负责。 公共行政的透明度保证了法律的确定性,并提高了决策过程中的合法性水平<7>。 决策过程和制度的透明度确保了决策者的问责制。
--------------------------------
<7>Jashari M.,Pepaj I.透明度和问责制原则在公共行政中的作用//Acta Universitatis Danubius。 行政。 2018. 卷。 10. 国际空间站。 1.
可预测性和一致性有助于提高所有法律对象的信心,提高法律适用的效力,包括司法实践的统一性。
法律面前人人平等被载入许多国家的基本法。 在俄罗斯法律中,确定每个人在法律和法院面前都是平等的。 俄罗斯联邦宪法<8>第19条规定,国家保障人权和公民权利和自由的平等,不论性别,种族,国籍,语言,出身,财产和官方地位,居住地,对宗教的态度,信仰,参加公
--------------------------------
<8>俄罗斯联邦宪法(1993年12月12日通过全民投票,2020年1月7日全俄投票通过修正案)。
所有指示的部件相互连接并且彼此重叠。 与此同时,在讨论人工智能用于决策支持系统的算法化时,所有这些都以某种方式被触及。 因此,根据国家战略,人工智能的发展为2030年。 除其他外,在俄罗斯开发和使用人工智能技术的主要原则是:保护人权和自由,人工智能的安全性,透明度和解释性以及取得成果的过程,包括产品用户非歧视性地获得有关这些产品中使用的人工智能算法的信息。
--------------------------------
<9>俄罗斯联邦总统2019年10月10日第490号法令"关于俄罗斯联邦人工智能的发展"(连同截至2030年的国家人工智能发展战略)。
在2023年1月出版的《欧洲人工智能、人权、民主和法治公约》的"零草案"中,第7条描述了尊重民主机构和法治的要求:"各方采取一切必要措施,维护民主机构和程序的完整性,并确保在应用人工智能系统的情况下尊重法治和适当的行政司法。 为此目的,国家主管当局应在将人工智能系统应用于制订或修订管理行政部门、其他民主机构和司法机构各自作用的法律和政策之前和期间,对必要性、相称性和潜在风险进行彻底评估"<10>。
--------------------------------
<10>修订的《人工智能、人权、民主和法治公约》[框架]草案。
在立法者普遍关注法治原则遵守作为更广泛概念的背景下,文献中有理由认为有必要将自动化算法政府决策与法治价值相协调<11>。 S.A. Gracheva正确地指出:"尽管许多相关法律(国际条约、协定、宣言和章程、主要州际组织的章程和文件)都载有批准和遵守法治原则的要求,但这种法治的管制特别重要,其效力由保障法治的特别机制确保"。
--------------------------------
<11>Zalnieriute M.,Moses L.B.,Williams G.the rule of law and automation of government decision-making//现代法律评论。 2019. 卷。 82. 国际空间站。 3. 第425-455页。
<12>Gracheva S.A.法治和司法法律立场的学说//俄罗斯法律杂志。 2014. N4. 第33-45页。
解决方案的算法化和个人数据的自动处理
确保所有国家法治的机制今天建立在为政府机构工作引入算法化系统的基础上。
算法化可以具有不同程度的自主性。 系统决策的独立意义因频谱(从部分到完全自动化)而异,从决策支持(计算机帮助人们做出决策)到人类参与循环(决策是在某些人类参与下做出的)以及人完全从决策过程中消失。 决策支持工具被用作决策者在特定情况下找到可能的解决方案的最简单方法。 更复杂的是自动确定与决策相关的一些事实的系统,例如,一个人符合年龄标准,将其余的决策要素留给授权人员。 此外,更复杂的自动化系统可以提供与评估相关的信息,而不是纯粹基于事实的标准,例如评估一个人将是危险的或不太可能遵守付款计划的可能性。 自动化也可能建议决策者以某种方式对案件做出决定,在这种情况下,决策者可能会认为这样的建议对结果或多或少具有决定性。 最后,系统可以识别相关信息,然后根据该信息做出决策,而不涉及决策者<13>。 因此,消除算法及其应用中固有的条件分类性对法律关系的影响是如此重要,以确保法治原则的运作,而不是算法的规则<14>。 在不同的司法管辖区采用概况分析系统使人们能够清楚地看到决策自动化如何影响人权。
--------------------------------
<13>Zalnieriute M.,Moses L.B.,Williams G.Op.cit。 第425-455页。
<14>Lessig L.Code是法律//哈佛杂志。 2000. 卷。 1.
在中国,政府利用信息技术实施分散的公共行政<15>。 中华人民共和国成为第一个开始使用公民分析算法对政府决策进行算法化的国家。 中国共产党部署了强大的社会信用体系。 该系统于2014年在国家层面推出,旨在评估中国公民在履行承诺和遵守法律规范,道德规范,专业和道德标准方面的可信度<16>。
--------------------------------
<15>Ma L.,Chung J.,Thorson S.E-government in China:Bringing economic development through administrative reform//政府信息季刊. 2005. 卷。 22. 国际空间站。 1. 第20-37页。
<16>社会信用体系建设规划纲要(2014 - 2020) (2014 - 2020 )] (圣公会通过,并于2014年6月14日生效)(SCS大纲下文)。
中国社会信用是一个以全面研究、收集和广泛使用个人和组织的个人资料来解决"鼓励诚信、惩治不可靠"任务的个人资料处理系统。 研究人员报告说,"社会信用"的概念最初是在2000早期引入的,旨在指导提高企业和个人财务信誉的经济改革。 渐渐地,这一概念扩大到包括它们在履行合同和法律义务方面的完整性或可靠性。 而自2011年以来,中国共产党的指示和中央政府的政策都把"社会信用"作为一个既与市场监管又与社会管理密切相关的复杂概念。 已经启动了一项计划,该计划对良好行为给予积分,并对不良行为进行扣分,例如违反交通规则和非法寻求上级当局的帮助。 积分计入流行信使的电子钱包中。 鼓励措施包括加快推广或考虑公屋申请<18>。
--------------------------------
<17>《国务院关于建立健全守信联合奖励和失信联合惩戒制度加快社会诚信建设的指导意见》(2016年5月30日国务院印发)。 《国家发展改革委、最高人民法院、中国人民银行等部门关于印发《关于对失信被执行人采取联合惩戒行动的谅解备忘录》的通知》,2016年1月20日。
<18>Chen Y.,Cheung A.S.the transparent self under big data profiling:Privacy and Chinese legislation on the social credit system//比较法杂志。 2018. 卷。 12. 国际空间站。 2. 第356-378页。
这个系统已经被科学家反复和非常尖锐地批评为一种完全控制的工具<19>。
--------------------------------
<19>三叶草Ch。 中国:当大数据遇上老大哥//金融时报。 2016. 1月20日。
然而,后来欧洲国家引入了中国社会信用体系的类似物。 在博洛尼亚(意大利),自2022秋季以来,正在测试一项试点,以鼓励公民-"善良公民的组合"(Il portafoglio del cittadino virtuoso)-支持全球环境议程。 应鼓励当局对垃圾回收和公共交通旅行采取负责任的态度,并在经济上使用电力。 智能公民钱包应用程序充满了可以在当地商店消费的奖励积分。
收集和处理关于公民鼓励行为的数据"将使市政当局能够从天气和领土维护的角度发展交通模拟,节省大量资源,例如,承受近年来相同的不利气候事件或波谷污染的事后后果,"城市当局报告<20>。 在这个项目的发展中,博洛尼亚当局得出的结论是,有可能"根据他们的需求为公民提供服务。"根据市长的城市,"这将使我们能够个性化他们的经验"<21>。
--------------------------------
<20>
<21>博洛尼亚,la"patente digitale"per i cittadini virtuosi:punti e premi. E un'app con tutti i servizi. 29马佐2022.
在俄罗斯,对公民进行剖析也是最近的趋势。 在国家和市政服务的统一门户上,根据对个人状态的确认,用户的几个级别不同,因此可以访问某一组电子服务。 一个用于基本个人存储文档的数字对应的移动应用系统正在推出<22>。
--------------------------------
<22>
奥地利的经验还旨在通过环境议程的棱镜塑造一个好公民的形象<23>。 自2022秋季以来,维也纳的每个居民都获得了一份申请,用"维也纳代币"奖励他的行为。 任何节省CO2的人都会获得积分。
--------------------------------
<23>Wien als劳动Sozialkreditsystem.
法律监管的个性化作为"可信赖社会"概念的反面
消费者金融信用评级在许多国家都是众所周知的<24>,近年来,eBay,Uber和Airbnb等在线平台和"共享经济"的评级系统也激增。 然而,根据许多西方观察家的观点,新兴的中国社会信用体系与以前的评级体系相比,表明了范式的转变,因为它的目标是基于惩罚和奖励机制的全面和统一的社会评级。
--------------------------------
<24>Razumov E.数字独裁:中华人民共和国社会信用体系的特点。 教育,2022年。
实施社会信用评级的主要手段是使用数字身份证,中央银行数字货币和大规模监控,以便政府可以跟踪购买和互动,并限制获得强迫行为的手段<25>。 欧盟此前已经认识到大规模监控的风险,并计划禁止面部识别,特别是在社会信用系统的背景下<26>。 很明显,这些在中国被称为"值得信赖的社会"的制度并不是因为奖励而危险的,尽管它们的选择也会对社会和国家的支持产生重大影响,而是受到惩罚。 相反,那些将遵循与社会的不赞成和算法评估的某些活动的状态有关的限制。
--------------------------------
<25>Kasl f.数字化社会中的监控:欧洲视角下的中国社会信用体系//律师季刊。 2019. 卷。 4. 国际空间站。 9. 第349-358页。
<26>Pabisiak J.危险,但不是那么独特。 中国社会信用体系的特点//波兰政治学年鉴. 2020. 卷。 49. 国际空间站。 3. 第30页。
这样,法治组成部分的作用的透明度和可预测性就会导致不公正起诉、在申请中地位降级以及最终违反平等原则的风险。 Minbaleev指出,"数字配置文件的功能也提出了可靠评估真实用户的问题-某些配置文件的所有者,以及保护他们免受第三方不公平使用此类配置文件数据的
--------------------------------
<27>Minbaleev A.V.在公民//民法的数字剖析过程中对个人非财产权利的民事保护问题。 2022. N2. 第9-11页。
没有必要证明:谁拥有信息以及处理它的算法,就决定了日益变得规范的个性化规则将如何与法治相结合。
数字革命创建了具有丰富个人信息的数据库,用于个性化其他部门和以前统一的其他处理方法。 法理学能否成为个体,在不违反平等和推翻法治的情况下,为不同人的待遇个人化带来如此巨大的社会效益?
从本质上讲,大数据可以规范和细化法律规范的发展。 律师应该已经制定规范,规范自主算法可以补充和取代人类在确定最佳法律规范方面的自由裁量权,并能够在人与人之间找到适当的差异,并利用它们 这种信念是基于一项大型研究的结论,其作者证明"非人性信息责任和标准化通知可以被粒度法律规范所取代,这些规范根据一个人的信息需求和个人 个性化权利是一个及时的,几乎是不可避免的要求。 允许实施个性化的技术很可能提供个性化法律的好处,前提是建立了必要的限制和保证。
--------------------------------
<28>Ben-Shahar O.,Porat A.个性化法律:不同人的不同规则。 牛津大学出版社,2021年。