建议系统：俄罗斯和中国法律方法的发展
推荐系统作为人工智能的子技术被国家框架之外的数字平台使用。 世界各地的立法者都在关注制定规则，以确保算法和基于它们的建议的透明度，以保护用户在数字环境中的权利。 算法的透明度正在成为政府控制内容版主的一种形式。 对建议制度的管理采取谨慎的做法似乎是非常有成效的。 这些规则正在与确保公民个人数据保护权利领域的公共立法规范一起逐步制定。 比较俄罗斯和中国法学家的方法将使我们能够找到适合消除推荐系统应用领域不确定性的解决方案。
关键词：人工智能，推荐系统，推荐算法，个人数据，保护个人数据主体的权利。
导言
在2021结束时，信息政策，信息技术和通信委员会宣布在春季会议上向俄罗斯联邦联邦议会国家杜马（下称-俄罗斯联邦联邦议会国家杜马）引入常规指定的" 世界各地都在讨论使用推荐系统的问题。 于2021年11月16日在中华人民共和国（以下简称中华人民共和国）。 在第20次会议上，中国网络空间管理局、中华人民共和国工业和信息化部、中华人民共和国公安部和国家市场监督管理总局审议通过了《互联网信息服务算法建议管理条例》，该条例于2022年3月1日生效。
--------------------------------
<1>
<2> .
推荐系统：基本属性和特性
推荐系统是在线平台架构的重要组成部分，确保以广告形式向用户提供赚钱内容。 如果没有算法适度，现有大量内容的组织将是不可能的。 推荐系统（RSs）的定义在商业环境中获得了很大的普及，作为提供对用户有用的产品提供的软件工具和方法<3>。 这些建议涉及各种决策过程，例如，购买哪些产品，听哪些音乐，或在互联网上阅读哪些新闻<4>。
--------------------------------
<3>Mahmood T.，Ricci F.Improving Recommender Systems with Adaptive Conversational Strategies//Proceedings of the20th Acm conference on Hypertext and hypermedia(Torino,Italy,29June2009-1July2009)/C.Cattuto,G.Ruffo,F.Menczer. 纽约：计算机械协会，2009年。 第73-82页。
<4>Ricci F.，Rokach L.，Shapira B.介绍推荐系统手册//推荐系统手册/eds。 由F.Ricci，L.Rokach，B.Shapira，P.B.Kantor。 波士顿，MA：Springer，2011。 第1-35页。
然而，作为人工智能的子技术的推荐系统在计算机科学中以最一般的形式被最充分地定义为一类解决方案，确保在没有人类参与的情况下执行过程，支持选择解决方案，以及预测用户感兴趣的对象（"端到端数字技术发展路线图"神经技术和人工智能"，俄罗斯，2019年<5>）。
--------------------------------
<5>
数字平台对推荐系统的使用极大地影响了今天在线传播信息的方式。 过滤用户信息的技术成为推荐系统的一个重要元素，并允许您实现最准确的个性化提供给特定用户。
推荐系统作为一种现象的本质在于，根据过去的互联网活动为每个用户单独形成推荐。 此外，还考虑了系统其他用户的行为以及网络上社区的社交互动机制。 推荐系统收集有关用户交互的信息，这允许您使用隐式用户评论而不是显式评级作为用户偏好的表达<6>。
--------------------------------
<6>等人。 利用用户社交环境来解决协作过滤音乐推荐系统//信息中的邻域偏见。 2020. 卷。 11. 是。 9. 第439页。
构建建议有两种主要方法<7>:
1)基于协作过滤，其使用关于过去用户行为的信息，例如，来自相同兴趣组的用户在网上商店网站上较早进行的购买或对对象的评价的列表<8>;
2)基于内容过滤（英文Content-based information filtering），基于整体的方法来剖析用户数据。 对每个简档的数据进行分析，包括用户的个人信息：社会地位、年龄、居住地、职业，以及表达用户对对象的兴趣的特征；感兴趣对象的简档包括用户感兴趣的特
--------------------------------
<7>Berry M.W.Large-Scale Sparse Singular Value Computations//国际超级计算应用杂志。 1992. 卷。 6. 是。 1. 第13-49页。
<8>Goldberg D.，Nichols D.，Oki B.M.等人。 使用协作过滤编织ACM的信息挂毯//通信。 1992. 卷。 35. 是。 12. 第61-70页。
<9>Joaquin D.，Naohiro I.，Tomoki U.基于内容的协作信息过滤：积极学习分类和推荐文档//合作信息代理国际研讨会。 柏林;海德堡：斯普林格，1998。 第206-215页。
在这个过程中，推荐系统使用显式和隐式的方法收集用户的数据，分析用户对问卷的反应和对服务满意度的问题，分析主题的直接偏好，以及用户对网络上某些内容的看法、用户在线行为以及跟踪用户计算机内容的数据。
--------------------------------
<10>Adomavicius G.，Tuzhilin A.迈向下一代推荐系统：对知识和数据工程的最先进和可能扩展的调查//IEEE Transactions on Knowledge And Data Engineering. 2005. 卷。 17. 是。 6. 第734-749页。
中国法律对推荐系统使用的监管
根据《互联网信息服务算法推荐管理条例》（以下简称《条例》），重点是算法推荐<11>。 "算法推荐技术的应用"<12>是指在向用户提供信息时，将这类算法技术用于（1）生成和综合（数据）；（2）个性化提供；（3）排序；（4）搜索和过滤（数据）；（5）预测和解决方案的选择（条例第2条第2款）。
--------------------------------
<11>在俄罗斯法律领域，"推荐算法"这一短语更为熟悉，尽管从直译的角度来看，这一规定恰恰侧重于规则的创建方式-影响用户的建议。 在这种情况下，我们将坚持直译。
<12>算法推荐技术。
《中国法律推荐制度规则》是为了规范算法推荐技术在互联网信息服务中的应用，弘扬社会主义基本价值观，保障国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康有序发展。 我们选择了一个相当广泛的方法来定义推荐算法标准应用的边界，在中国的法案中，这被称为"算法推荐服务"。 推荐算法的创建应考虑到道德准则（社会，商业，职业道德），以及遵循公正，公平，公开和透明，科学理性，诚实和正直的原则（条例第4条）。
--------------------------------
<13>算法推荐服务作为缩写声明（使用推荐算法技术在互联网上提供服务）出现在该法规的第2条中。 也就是说，它被理解为"关于算法的建议"，由于中国公司的大量滥用而为中国的用户所熟知。 而对"算法"的直接调控，在笔者看来，一方面是中国立法者对尖锐社会问题的回答，另一方面，由于算法是推荐系统的基础技术，这种方式使得在实施法律规 此外，从作者的角度来看，日常生活中的"算法推荐"应该被理解为"推荐系统"的同义词。
这些规则针对算法建议的服务提供商，其一般法律地位在法规中没有单独制定。
在中华人民共和国境内生效的条例所载的规范优先于其他来源的规则，包括法律、行政法规（条例第二条）。 与此同时，该条例的一些规定部分基于其他法律，如2021年11月1日生效的《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等。
--------------------------------
<14>
<15>
<16>《中华人民共和国个人信息保护法》。
<17> .
该条例强调，除了直接安装平台外，推荐系统的经营者应遵循自律原则、行业标准、完善服务规范、依法提供服务和公众控制。 因此，重点是在道德和立法规范的框架内以及中国社会的要求下进行自我监管。
该条例包含若干章节，规范了建议制度的创建和应用的各个领域。 从信息服务的技术要求的角度来看，根据《条例》第10条，算法建议的服务提供者必须管理用户模型和用户标签（包括让用户有机会自行选择或删除与其个人特征有关的标签）。 17)、完善用户访问的所谓兴趣点(POIs)的确定地理位置和推荐规则，不应将非法和不需要的信息关键词记录在用户兴趣点中或作为用户标签。
此外，在该法规第12条的含义范围内，算法建议的服务提供商有义务"优化"规则的透明度和解释性，例如搜索，排序，选择，呈现和显示内容，以避免不良内容对
--------------------------------
<18>所谓的推送技术字面意思是（英文推送字母。 "推过"）。
在这种情况下，为推荐算法使用"优化规则的透明度和解释性"一词并非偶然选择。 我们谈论的是推荐算法服务提供商的两个职责-优化算法的可解释性和优化算法的透明度。 这两种责任的复杂优化反映了各种因素价值观的复杂平衡：一方面是（1）尊重用户的知情权和（2）消费者的相关权利和合法利益或行政过程中的合法利 在2021年9月29日的《中国网络空间管理局（Cac）<19>关于加强互联网信息服务算法规则综合管理的指导意见》（Internet Information Service Algorithms Regulations）<20>中也披露了促进推荐算法公开透明的
--------------------------------
<19>与中共中央宣传部、中华人民共和国教育部、中华人民共和国科学技术部、中华人民共和国工业和信息化部、中华人民共和国公安部、中华人民共和国文化和旅
<20>关于发布《关于加强互联网信息服务算法综合规则管理的指导意见》的通知。"
该法规的一个单独部分侧重于保护用户的权利。 确定算法推荐服务的提供者必须明确告知用户提供算法推荐服务的情况，并妥善公布算法推荐服务的基础、目的和主要工作机制（《条例》第十六条）。 在艺术上。 17的规定分别强调推荐系统不能将其提案建立在用户个性特征的基础上这使得能够为用户访问各类信息服务和产品建立一个非歧视性机制。 还应为用户提供禁用算法推荐服务的方便选项。 如果用户决定关闭算法推荐服务，则算法推荐服务提供商必须立即停止提供这些服务。 中国许多流行的移动应用程序的用户，如头条、豆印（Tik-tok）、快寿、Ele.me 、淘宝、美团外麦，目前，禁用个性化推荐的功能已经可用。
制定了特别规则，为未成年人和老年人提供建议。
该条例第21条要求向消费者销售商品或提供服务的算法建议的服务提供者尊重消费者公平贸易的权利，不得在可能导致歧视和根据消费者特征对交易条款进行差别定义的交易条款方面使用算法。 应该强调的是，这些规则与艺术相关。 根据《个人信息保护法》第24条，如果个人信息的经营者使用个人数据进行自动决策，他必须确保决策的透明度和结果的公平性。 这条规则旨在避免在贸易问题上的无理歧视，例如，根据用户的财务状况，通过算法评估确定商品的价格或购买条款。
随着大势所趋，这个问题也在中国的其他监管文件中得到了解决。 例如，在艺术。 中华人民共和国国家市场监督管理总局制定的《互联网不正当竞争条例（征求意见稿）》规定，经济主体不得利用数据、算法和其他技术手段收集和分析交易对手的交易信息、查看的内容和承诺的访问次数，以及交易时使用的设备的品牌和成本, 向交易对手提供同一交易的不同信息是不合理的。 本文还指出，有关交易的信息包括交易历史，潜在客户的支付意愿，他的消费习惯，个人偏好，偿付能力，信用状况等。 本文描述了"用大数据欺骗熟悉的客户"（<22>）的特征，以及这样一个动作的构成。 此外，上述标准可以被视为对法规中前面提到的"用户个性特征"的澄清。
--------------------------------
<21>
<22>这是中国众所周知的描述价格歧视的术语。 直译是"杀死"熟人，意思是"向老客户收取比新客户更多的费用。"
俄罗斯推荐系统应用领域法律政策的发展
目前，数字平台与其用户之间的法律关系受民法监管。 这通常通过用户协议，数字平台的一般条款和条件来完成。 这些是管理信息中介与用户之间合同关系的任何条款、条件或规范，无论其名称或形式如何。 最近，道德规范和国家标准已被添加到数字领域的监管机构<23>（例如，GOST R59276-2020"人工智能系统。 确保信任的方法。 总则"）。 俄罗斯数字公司于2021年采用的《人工智能道德准则》包括道德和技术社区标准，这些标准在通信平台上达到了高水平的细节。
--------------------------------
<23>Kharitonova Y.S.，Savina V.S.，Pagnini F.人工智能算法的偏见：道德和法律问题//彼尔姆大学公报。 法律科学。 2021. N53． 第488-515页。
根据俄罗斯目前的法案，推荐系统和智能决策支持系统被归类为皮下数字技术（sub-CT）"人工智能和神经技术"<24>以及计算机视觉，自然语言处理，语音识别和合 这一领域监管的关键任务之一是将经济和公共行政数字化的理论家与确保在开发和实施人工智能的公司的利益与社会利益之间保持有效平衡的背景下获得数据联系起来。 然而，这是在监管层面对与推荐系统直接相关的问题的整合结束的地方。
--------------------------------
<24>"端到端"数字技术"神经技术和人工智能"发展路线图。
因此，到目前为止，该领域立法的发展遵循了自我监管和技术标准化的道路，同时考虑到社会中测试的道德约束。 只有当这些规则完全符合市场和社会的期望时，法律层面明确规则的出现才能导致不确定性的减少。
根据俄罗斯联邦联邦议会国家杜马信息政策和信息技术委员会代表在媒体<25>上的声明，制定的法案侧重于推荐算法的透明度，资源所有者负责识别和 正如欧盟和中国的经验所表明的那样，法律中对内容适度的严格要求应该并且可以与制止非法内容的分发有关。 包括有关犯罪和恐怖主义、洗钱、针对未成年人和社会弱势群体的人。 然而，在大多数用户与数字平台的互动领域，使用私法监管机制是可取的。
--------------------------------
<25>
专家说，"黑箱"方法在这种情况下不适用，特别是因为提出建议的人类等价物本身就是一个透明的社会过程。 因此，协作过滤被称为社交过滤算法，因为它是在经过时间考验的社交过程的基础上建模的，通过与具有相似品味的朋友联系，请求推荐他们喜欢的电影， 建议的接收者有几种方法来决定是否信任这一建议:(a)彻底分析接收者和推荐者之间口味的相似性;(b)评估这一推荐者以前的报价是否成功;(c)向推荐者询问更多关于为什么提出建议的信息。 基于这篇论文，可以制定推荐系统透明度的法律要求：数字平台应该为用户提供几种评估推荐相关性的方法，或者完全放弃平台的这种功能。 这种方法也将对应于俄罗斯在人工智能和机器人技术领域发展关系监管的概念，直到2024，这表明需要对人工智能系统做出的决定进行全面解释<27>。
--------------------------------
<26>Sinha R.,Swearingen K.The Role Of Transparency in Recommender Systems//CHI'02extended abstracts on Human factors in computing systems(Minneapolis,Minnesota USA,April20-25,2002)/L.Terveen,D.Wixon. 纽约：计算机械协会，2002年。 第830-831页。
<27>俄罗斯联邦政府2020年8月19日第2129-r号法令"关于批准在人工智能和机器人技术领域发展监管关系的概念，直至2024年"。
建议在引入关于确保推荐算法透明度的规则时,同时要求使用推荐系统的资源接口<28>。 用户在选择时的行为取决于某些功能的突出显示或隐藏，可理解或不可理解的程度<29>。 这条规则在欧盟数字服务法案中提出，建议为接口设计规范设定一般要求。
--------------------------------
<28>Hu Y.，Ogihara M.NextOne Player：基于用户行为的音乐推荐系统//ISMIR。 2011. 卷。 11. 第103-108页。
<29>Kuang C.，Fabricant R.User Friendly：设计的隐藏规则如何改变我们的生活，工作和娱乐方式。 兰登书屋，2019年。
推荐系统最重要的参数应该以可访问和可理解的形式提供给平台的用户。 还应指出可用于改变或影响最重要参数的所有可能性。 这种方法，庄严载入法律和用户协议，将确保用户意志的自主权。
关于推荐系统透明度的规则的引入提出了数字平台遵守法规的责任问题。 平台作为中间人的责任的特殊性在于立法者打算对平台上使用不公平和禁止的建议做法进行分析和压制。 数字平台将需要分析和最大限度地减少信息空间的各种主体使用算法的风险。 中国今天也采取了这一立场。
结论
我们认为，对建议制度的监管采取谨慎的做法似乎非常有成效。 这些规则正在与确保公民个人数据保护权利领域的公共立法规范一起逐步制定。 国家专注于为已查明和公认的问题制定有针对性的解决方案将有助于在国家、社会和企业的利益之间保持平衡。
算法的透明度正在成为政府控制内容版主的一种形式。 继续将状态功能委托给数字平台运营商的全球趋势，将责任分配给企业识别和抑制与既定规则相矛盾的推荐算法的使用将使他们能够最快地响应新 在这种情况下，人们还应该努力在创新的算法解决方案与明确和隐含违反公平应用建议原则之间取得平衡。
