Верховенство закона и алгоритмизация принятия решений в России, Китае, Европе: перспективы персонализации правового регулирования
Алгоритмизация и автоматизация принятия решения в последнее время распространяются все шире и принимают все более автономный характер. При этом принцип верховенства закона, основными компонентами которого в различных правопорядках называют прозрачность и подотчетность, предсказуемость и последовательность, равенство перед законом, испытывает давление со стороны персонализации принимаемых решений. Алгоритмизация функций государства ведет к персонализации правового регулирования в ущерб равенству граждан и юридических лиц, что подтверждается введением систем кредита, формирующих общество доверия: социального - в Китае, экологического - в Италии и Австрии.
Ключевые слова: верховенство закона, автоматизированное принятие решений, искусственный интеллект, система социального кредита, Китай.
Supremacy of Law and Development of Decision Making Algorithms in Russia, China, Europe: Legal Regulation Personalization Prospects
Введение
Алгоритмы автоматизированной поддержки принятия решений применяются в ситуациях, когда возможно формализованное описание этого процесса <1>. При этом в теории автоматического управления обоснована эффективность внедрения так называемых интеллектуальных систем поддержки принятия решений <2>.
--------------------------------
<1> Примером формализации процесса принятия решения могут служить положения таможенного законодательства, когда необходимо оценить сумму таможенных платежей исходя из отнесения ввозимого товара к той или иной группе на основании цифровых кодов (Постановление Арбитражного суда Московского округа от 9 сентября 2021 г. N Ф05-21112/2021 по делу N А40-265208/2020.
<2> Тиханычев О.В. Теория и практика автоматизации поддержки принятия решений: моногр. М.: Эдитус, cop. 2018. 75 с.
Интеллектуальные системы поддержки решений широко применяются в государственном управлении и бизнесе. Они появились достаточно давно и являются наследниками систем процессинга транзакций в базах данных из 1960-х годов XX в. <3>. Первоначально такие системы строились как базы данных, снабженные надстройкой с функцией численного моделирования. Однако с развитием индустрии приобрели достаточную автономность, чтобы принимать решения вместо человека. В то же время специальное правовое регулирование в рассматриваемой сфере в первую очередь сосредоточено на обработке персональных данных. В этой связи мы обратили внимание, что внедрение интеллектуальных автоматизированных систем принятия решений приводит к переосмыслению доктрины верховенства закона.
--------------------------------
<3> Garcia-Molina H. Using semantic knowledge for transaction processing in a distributed database // ACM Transactions on Database Systems (TODS). 1983. Vol. 8. Iss. 2. P. 186 - 213.
Мы обнаружили, что создание общих правил и всеобщая стандартизация процессов принятия решений, ведущая к правовым последствиям для конкретных субъектов права, в совокупности с применением алгоритмов искусственного интеллекта и анализа данных привела к персонализации правового регулирования. Рассмотрим на примере регулирования персональных данных правовые эффекты от автоматизации принятия решений на переосмысление доктрины верховенства закона с учетом законодательства и практики разных стран.
Основные элементы доктрины верховенства закона
Верховенство закона как правовая доктрина не имеет четкого закрепления в законодательстве, но обладает всеобъемлющим характером. Согласно краткому определению Black's Law Dictionary под термином Rule of Law понимается правовой принцип, имеющий общее применение, санкционированный признанием властей и обычно выраженный в форме максимы или закономерного утверждения. Называется правилом, потому что в сомнительных или непредвиденных случаях оно является руководством или нормой для их решения <4>. Включая понятие верховенства закона в более широкое определение верховенства права как "общее объединяющее начало" для конституционного строя, В.Д. Зорькин указывал, что в понятие верховенства права наравне с верховенством закона включаются разные элементы, в том числе: правовая система, основанная на юридическом равенстве; права человека и основные свободы, определяющие смысл, содержание и применение законов; стабильность права, обеспечивающая упорядоченность и предсказуемость поведения участников правоотношений, возможность планирования и координации действий на протяжении определенного периода; наличие независимого, беспристрастного, справедливого правосудия <5>.
--------------------------------
<4>
<5> Зорькин В.Д. Верховенство права и встреча цивилизаций // Журнал конституционного правосудия. 2008. N 1. С. 2 - 9.
К основным компонентам доктрины верховенства закона во всех правопорядках относят прозрачность и подотчетность, предсказуемость и последовательность, равенство перед законом <6>.
--------------------------------
<6> Bingham L. The rule of law // The Cambridge Law Journal. 2007. Vol. 66. Iss. 1. P. 67 - 85.
Прозрачность и подотчетность предполагают, что органы власти подчиняются требованиям публичности принимаемых решений, отвечают за них перед обществом. Прозрачность в государственном управлении гарантирует юридическую уверенность и повышает уровень легитимности в процессе принятия решений <7>. Прозрачность процесса и системы принятия решений обеспечивает подотчетность лиц, принимающих решения.
--------------------------------
<7> Jashari M., Pepaj I. The role of the principle of transparency and accountability in Public Administration // Acta Universitatis Danubius. Administratio. 2018. Vol. 10. Iss. 1.
Предсказуемость и последовательность служат повышению уверенности всех, кому адресовано право, и эффективности применения закона, включая единообразие судебной практики.
Равенство перед законом закреплено во многих основных законах государств. В российском праве установлено, что все равны перед законом и судом. Статья 19 Конституции Российской Федерации <8> предусматривает, что государство гарантирует равенство прав и свобод человека и гражданина независимо от пола, расы, национальности, языка, происхождения, имущественного и должностного положения, места жительства, отношения к религии, убеждений, принадлежности к общественным объединениям, а также других обстоятельств.
--------------------------------
<8> Конституция Российской Федерации (принята всенародным голосованием 12.12.1993 с изменениями, одобренными в ходе общероссийского голосования 01.07.2020).
Все обозначенные компоненты взаимосвязаны и перекликаются между собой. При этом все они так или иначе оказались затронуты при обсуждении применения искусственного интеллекта для алгоритмизации систем поддержки принятия решений. Так, согласно Национальной стратегии развития искусственного интеллекта на период до 2030 г. <9> основными принципами развития и использования технологий искусственного интеллекта в России в том числе являются: защита прав и свобод человека, безопасность, прозрачность и объяснимость работы искусственного интеллекта и процесса достижения им результатов, включая недискриминационный доступ пользователей продуктов к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта.
--------------------------------
<9> Указ Президента РФ от 10 октября 2019 г. N 490 "О развитии искусственного интеллекта в Российской Федерации" (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 г.).
В опубликованном в январе 2023 г. "нулевом проекте" Европейской конвенции об искусственном интеллекте, правах человека, демократии и верховенстве закона в ст. 7 предложено описание требований, касающихся уважения демократических институтов и верховенства закона: "Каждая сторона принимает все необходимые меры для сохранения целостности демократических институтов и процессов и обеспечения уважения верховенства закона и надлежащего отправления правосудия в контексте применения системы искусственного интеллекта. С этой целью компетентным национальным органом должна быть проведена тщательная оценка необходимости, соразмерности и потенциальных рисков как до, так и во время применения системы искусственного интеллекта при разработке или пересмотре законов и политики, регулирующих соответствующие роли исполнительной власти, других демократических институтов и судебной власти" <10>.
--------------------------------
<10> Revised Zero Draft [Framework] Convention on Artificial Intelligence, Human Rights, Democracy and The Rule of Law.
На фоне общей озабоченности законодателей вопросами соблюдения принципов верховенства закона и права как более широкого понятия в литературе обосновано, что требуется согласование автоматизированного алгоритмического принятия государственных решений с ценностями верховенства права <11>. С.А. Грачева верно указывает: "Несмотря на то что требования по утверждению и соблюдению принципа верховенства права закреплены во многих соответствующих актах (международных договорах, соглашениях, декларациях и хартиях, уставах и документах ведущих межгосударственных организаций), особое значение все же имеет такое регулирование верховенства права, действенность которого обеспечивается специальными механизмами его гарантирования" <12>.
--------------------------------
<11> Zalnieriute M., Moses L.B., Williams G. The rule of law and automation of government decision-making // The Modern Law Review. 2019. Vol. 82. Iss. 3. P. 425 - 455.
<12> Грачева С.А. Доктрина верховенства права и судебные правовые позиции // Журнал российского права. 2014. N 4. С. 33 - 45.
Алгоритмизация решений и автоматизированная обработка персональных данных
Механизм обеспечения верховенства закона во всех странах строится сегодня на внедрении систем алгоритмизации работы государственных органов.
Алгоритмизация может обладать разной степенью автономии. Самостоятельная значимость решений систем варьируется в зависимости от спектра (от частичной до полной автоматизации) от поддержки принятия решений (компьютер помогает людям принимать решения) до участия человека в цикле (решения принимаются с некоторым участием человека) и до исчезновения людей от процесса принятия решений полностью. Инструменты поддержки принятия решений используются как наиболее простые для поиска возможного решения в конкретной ситуации лицом, принимающим решение. Более сложными являются системы, которые автоматически определяют некоторые факты, имеющие отношение к решению, например что человек соответствует критерию возраста, оставляя остальные элементы принятия решений уполномоченным лицам. Далее, более сложная автоматизированная система может предоставить информацию, относящуюся к оценочному, а не к чисто основанному на фактах критерию, такому как оценка вероятности того, что человек будет опасен или вряд ли будет соблюдать план платежей. Автоматизация также может рекомендовать лицу, принимающему решение, принять решение по делу определенным образом, и в этом случае лицо, принимающее решение, может рассматривать такую рекомендацию как более или менее определяющую для результата. Наконец, система может определить соответствующую информацию, а затем принять решение на основе этой информации, не привлекая человека, принимающего решения <13>. Поэтому так важно устранить влияние алгоритма и заложенной в их применении условной безапелляционности на правоотношения, чтобы обеспечить действие принципа верховенства закона, а не правил алгоритма <14>. Внедрение в разных юрисдикциях систем профайлинга позволяет ясно увидеть, как автоматизация принятия решения влияет на права человека.
--------------------------------
<13> Zalnieriute M., Moses L.B., Williams G. Op. cit. P. 425 - 455.
<14> Lessig L. Code is law // Harvard magazine. 2000. Vol. 1.
В Китае правительство использует информационные технологии для осуществления децентрализованного государственного управления <15>. Именно Китайская народная республика стала первым государством, в котором профайлинг граждан начали применять для алгоритмизации государственных решений. Китайская Коммунистическая партия развернула мощную систему социального кредитования. Запущенная на национальном уровне в 2014 г., эта система призвана оценить благонадежность китайских граждан в плане выполнения своих обещаний и соблюдения правовых норм, моральных норм, профессиональных и этических стандартов <16>.
--------------------------------
<15> Ma L., Chung J., Thorson S. E-government in China: Bringing economic development through administrative reform // Government Information Quarterly. 2005. Vol. 22. Iss. 1. P. 20 - 37.
<16> Planning Outline for the Construction of the Social Credit System (2014 - 2020) (2014 - 2020 )] (adopted by St. Council and effective on June 14, 2014) (SCS Outline hereafter).
Социальный кредит в Китае - это система обработки персональных данных, проявляющаяся во всестороннем исследовании, сборе и широком использовании персональных данных как физических лиц, так и организаций, для решения задач "поощрения благонадежности и наказания за неблагонадежность" <17>. Исследователи сообщают, что идея "социального кредита" была первоначально введена в начале 2000-х годов для направления экономических реформ, которые повышают финансовую кредитоспособность предприятий и физических лиц. Постепенно это понятие расширилось и стало охватывать их добросовестность или надежность в отношении выполнения договорных и юридических обязательств. А с 2011 г. директивы коммунистической партии Китая и политика центрального правительства используют "социальный кредит" как комплексное понятие, тесно связанное как с рыночным регулированием, так и с социальным управлением. Запущена программа, которая начисляет баллы за хорошее поведение и вычитает баллы за плохое поведение, такое как нарушение правил дорожного движения и незаконное обращение за помощью к вышестоящим властям. Баллы учитываются в электронном кошельке популярного мессенджера. В качестве поощрений называют ускоренное продвижение по службе или рассмотрение заявлений на получение государственного жилья <18>.
--------------------------------
<17> Guidelines of the State Council on Establishing and Improving the System of Joint Rewarding for Trustworthiness and Joint Punishment for Untrustworthiness and Accelerating the Construction of Trustworthiness in the Society (issued by the St. Council on May 30, 2016). "Notice of the National Development and Reform Commission, the Supreme People's Court, the People's Bank of China, and Other Departments on Issuing the Memorandum of Understanding on Taking Joint Disciplinary Actions against Untrustworthy Persons Subject to Enforcement", January 20, 2016.
<18> Chen Y., Cheung A.S. The transparent self under big data profiling: Privacy and Chinese legislation on the social credit system // The Journal of Comparative Law. 2018. Vol. 12. Iss. 2. P. 356 - 378.
Данная система неоднократно и весьма резко критиковалась учеными как инструмент тотального контроля <19>.
--------------------------------
<19> Clover Ch. China: When Big Data Meets Big Brother // Financial Times. 2016. 20 January.
Однако позже в европейских государствах внедрили аналоги китайской системы социального кредитования. В Болонье (Италия) с осени 2022 г. тестируется пилот по поощрению граждан - "Портфолио добродетельного гражданина" (Il portafoglio del cittadino virtuoso), - поддерживающих глобальную экологическую повестку. Поощрения властей заслуживает ответственное отношение к переработке мусора и поездкам на общественном транспорте, экономное расходование электроэнергии. Приложение "Умный кошелек гражданина" (Smart Citizen Wallet) наполняется поощрительными баллами, которые можно потратить в местных магазинах.
Сбор и обработка данных о поощряемом поведении граждан "позволят муниципалитету разрабатывать симуляции дорожного движения и с точки зрения погоды, и для обслуживания территории, экономя много ресурсов, например, чтобы противостоять постфактум последствиям одних и тех же неблагоприятных климатических явлений последних лет или загрязнение долины По", - сообщают власти города <20>. В развитие этого проекта власти Болоньи пришли к выводу о возможности "предоставлять гражданам услуги, исходя из их потребностей". По словам мэра города, "это позволит нам персонализировать их опыт" <21>.
--------------------------------
<20>
<21> Bologna, la "patente digitale" per i cittadini virtuosi: punti e premi. E un'app con tutti i servizi. 29 marzo 2022.
В России профилирование граждан также является трендом последнего времени. На Едином портале государственных и муниципальных услуг, в зависимости от подтверждения индивидуального статуса, различается несколько уровней пользователей, в связи с чем предоставляется возможность доступа к определенному набору электронных услуг. Запускается система мобильных приложений для цифровых двойников основных документов личного хранения <22>.
--------------------------------
<22>
Опыт Австрии также направлен на формирование профиля добропорядочного гражданина через призму экологической повестки <23>. Каждому жителю Вены с осени 2022 г. предложено приложение, которое вознаграждает его поведение "венскими жетонами". Любой, кто экономит CO2, получает баллы.
--------------------------------
<23> Wien als Labor Sozialkreditsystem.
Персонализация правового регулирования как обратная сторона концепции "общества, заслуживающего доверия"
Во многих странах известны финансовые кредитные рейтинги потребителей <24>, и в последние годы также наблюдается распространение рейтинговых систем в отношении онлайн-платформ и "экономики совместного использования", таких как eBay, Uber и Airbnb. Однако, по мнению многих западных наблюдателей, формирующаяся китайская система социального кредита указывает на сдвиг парадигмы по сравнению с этими прежними рейтинговыми системами, поскольку она нацелена на всеобъемлющий и единообразный социальный рейтинг, основанный на механизмах наказания и вознаграждения.
--------------------------------
<24> Razumov E. Digital dictatorship: features of the social credit system in the People's Republic of China. Education, 2022.
Основным средством реализации социального кредитного рейтинга является использование цифрового удостоверения личности, цифровой валюты центрального банка и массового наблюдения, чтобы правительство могло отслеживать покупки и взаимодействия и ограничивать доступ к средствам для принуждения к поведению <25>. ЕС ранее признал риск массовой слежки и планировал запретить распознавание лиц, особенно в контексте систем социального кредита <26>. Очевидно, что приведенные системы, которые получили в Китае название "общество, заслуживающее доверия", опасны не поощрениями как таковыми, хотя их выбор также может оказать значимое влияние на то, что поддерживается в обществе и государстве, но наказаниями. Вернее, теми ограничениями, которые последуют в связи с неодобрением обществом и государством тех или иных активностей, оцененных алгоритмом.
--------------------------------
<25> Kasl F. Surveillance in digitalized society: The Chinese social credit system from a European perspective // Lawyer Quarterly. 2019. Vol. 4. Iss. 9. P. 349 - 358.
<26> Pabisiak J. Dangerous, Yet Not So Unique. Characteristics of the Chinese Social Credit System // Polish Political Science Yearbook. 2020. Vol. 49. Iss. 3. P. 30.
Таким путем прозрачность и предсказуемость в роли компонентов верховенства закона приводят к рискам необоснованного привлечения к ответственности, понижения статуса в приложении и в конечном счете к нарушению принципа равноправия. А.В. Минбалеев отмечает, что "функционирование цифрового профиля также порождает проблемы достоверной оценки реальных пользователей - обладателей тех или иных профилей, а также их защиту от недобросовестного использования третьими лицами данных таких профилей, осуществления ряда действий, в том числе имущественной направленности от имени таких цифровых персонажей без их согласия" <27>.
--------------------------------
<27> Минбалеев А.В. Проблемы гражданско-правовой защиты личных неимущественных прав в процессе цифрового профилирования граждан // Гражданское право. 2022. N 2. С. 9 - 11.
Нет необходимости доказывать: кто владеет информацией и обрабатывающим ее алгоритмом, тот предопределяет, как персонализированные правила, все больше обретающие нормативное звучание, будут сочетаться с верховенством закона.
Цифровая революция создала базы данных с богатой личной информацией, которые используются для персонализации других секторов и других видов лечения, которые раньше были единообразными. Может ли юриспруденция стать индивидуальной и принести такие огромные социальные выгоды, как персонализация лечения различных людей, не нарушая равенства и не низвергая верховенство закона?
По существу большие данные могут регулировать и оттачивать разработку правовых норм. Юристам следует уже сейчас разрабатывать нормы, регулирующие ситуации, когда автономные алгоритмы смогут дополнить и заменить человеческое усмотрение в определении оптимальных правовых норм и сумеют находить соответствующие различия между людьми и использовать их для персонализации санкций, прав и обязанностей. Это убеждение опирается на выводы большого исследования, авторы которого доказали, что "безличные информационные обязанности и стандартизированные уведомления могут быть заменены гранулированными правовыми нормами, которые обеспечивают персонализированное раскрытие информации на основе информационных потребностей человека и его личных предпочтений" <28>. Персонализированное право - это своевременный, почти неизбежный запрос. Технология, позволяющая внедрить персонализацию, вполне может обеспечить преимущества персонализированного права при условии установления необходимых ограничений и гарантий.
--------------------------------
<28> Ben-Shahar O., Porat A. Personalized law: Different rules for different people. Oxford University Press, 2021.