Особенности развития правового регулирования рекомендательных технологий в предпринимательской деятельности в России и Китае
В статье автор рассматривает подходы к правовому регулированию рекомендательных алгоритмов в России и Китае, анализируются соответствующие понятия, требования к транспарентности, контролю и мониторингу в пределах обозначенной темы. В целом отмечаются возможные проблемы в практике, связанные доступом к информационным системам в связи с необходимостью привлечения высококвалифицированных специалистов, объемом анализируемых данных, риском утечки конфиденциальной информации.
Ключевые слова: рекомендательные технологии, рекомендательные системы, рекомендательные алгоритмы, информационные технологии, технологии алгоритмических рекомендаций, предпочтения пользователей, предпринимательская деятельность.
В условиях активной цифровизации различных направлений жизни общества предпринимательская деятельность как разновидность экономической также начинает приобретать новейшие особенности в этой сфере.
В.В. Монастырев в своей научной статье "Рекомендательная система на основе действий пользователей в социальной сети" отмечает, что при использовании социальных сетей, онлайн-сервисов пользователи оставляют о себе различную информацию, например комментарии, фотографии, геотеги и т.д. В итоге данная информация может быть использована для работы специальных систем предоставления рекомендаций <1>.
--------------------------------
<1> Монастырев В.В., Дробинцев П.Д. Рекомендательная система на основе действий пользователей в социальной сети // Труды ИСП РАН. 2020. N 3. С. 100 - 102.
И.Ю. Пащенко отмечает, что в функционировании рекомендательной системы следует учитывать не только позитивный опыт, выражающийся в создании комфортных условий для информационного потребления, но и существующие риски для информационной безопасности как отдельного человека (пользователя), так и всего государства и общества в целом. Данные риски, например, могут выражаться в распространении недостоверной информации, искажении индивидуального восприятия, воздействии на формирование общественного мнения, отсутствии прозрачности в связи сложностью систем <2>.
--------------------------------
<2> Пащенко И.Ю. Перспективы нормативного регулирования рекомендаций в информационных системах, являющихся пользовательскими сервисами // Современные научные исследования и инновации. 2022. N 9.
Э.В. Талапина отмечает, что применение рекомендательных алгоритмов также может создавать риски для фундаментальных прав человека, в частности может пострадать равенство, право на частную жизнь и защиту персональных данных, также нельзя допускать дискриминацию критериев обработки данных <3>.
--------------------------------
<3> Талапина Э.В. Алгоритмы и искусственный интеллект сквозь призму прав человека // Журнал российского права. 2020. N 10. С. 25 - 39.
Развитие рекомендательных алгоритмов как одного из эффективных способов продвижения товара, работы или услуги, в целом контента стимулирует законодательство к изменениям в новых условиях.
Подобные преобразования обусловлены прежде всего идеей соблюдения прозрачности и законности, что подтверждается позицией автора законодательной инициативы по правовому регулированию рассматриваемого вопроса в Российской Федерации.
Депутат Государственной Думы Антон Вадимович Горелкин указывает на необходимость соблюдения двух указанных выше идей, поскольку система персональных рекомендаций используется фактически каждой большой цифровой платформой, при этом собираются данные, не только представленные самим человеком, но и полученные в результате анализа активности с различных устройств, вплоть до использования нейросети, обрабатывающей фотографии и видеофайлы <4>.
--------------------------------
<4> Депутаты поддержали поправки о рекомендательных алгоритмах интернет-ресурсов // Государственная Дума Российской Федерации: официальный сайт.
Китайская Народная Республика (далее - КНР) в целом опережает Россию в правовом регулировании вопросов использования рекомендательных алгоритмов, а также в целом искусственного интеллекта, что отражается в ряде специальных нормативно-правовых актов.
1. Административные положения о рекомендательных алгоритмах для информационных интернет-сервисов, которые вступили в силу с 1 марта 2022 г. (далее - Положение КНР о рекомендательных алгоритмах) <5>.
2. Положения об управлении глубоким синтезом в информационном сервисе Интернета, которые вступили в силу 10 января 2023 г. <6>
3. Временные положения об управлении сервисами генеративного искусственного интеллекта, вступили в силу 15 августа 2023 г. <7>
--------------------------------
<5> Государственная канцелярия интернет-информации КНР: официальный сайт.
<6> Государственная канцелярия интернет-информации КНР: официальный сайт.
<7> Государственная канцелярия интернет-информации КНР: официальный сайт.
В целом указанные правовые акты накладывают определенные обязательства на поставщиков услуг, технический персонал, пользователей, а также на коммерческие организации, в том числе онлайн-платформы.
Конечной целью перечисленных документов является устранение рисков, связанных с контентом, генерируемым с использованием искусственного интеллекта, а также защита национальной и социальной безопасности КНР.
В России данное направление получило правовое оформление 26 июля 2023 г. с принятием Федерального закона "О внесении изменений в Федеральный закон "Об информации, информационных технологиях и о защите информации" и Федеральный закон "О связи" <8>, который вступил в силу с 1 октября 2023 г.
--------------------------------
<8> Федеральный закон от 2 декабря 2019 г. N 426-ФЗ "О внесении изменений в Закон Российской Федерации "О средствах массовой информации" и Федеральный закон "Об информации, информационных технологиях и о защите информации" // Официальный интернет-портал правовой информации.
В Положении КНР о рекомендательных алгоритмах в ст. 2 сформулирован легальный подход к определению понятия "алгоритм технологии рекомендаций" - это использование технологий алгоритмов, таких как генерация и синтез, персонализированный подход, сортировка и отбор, поиск и фильтрация, планирование и принятие решений для предоставления информации пользователю.
В России в результате законодательных изменений также появился легальный подход понятию "рекомендательные технологии". При этом поправки, внесенные в Федеральный закон "Об информации, информационных технологиях и о защите информации" <9> (далее - Закон об информации в РФ) не предполагают дополнение ст. 2 указанного Закона соответствующим понятием, но приводят ряд признаков в ст. 10.2-2 Закона об информации в редакции от 1 октября 2023 г.
--------------------------------
<9> Федеральный закон от 27 июля 2006 г. N 149-ФЗ "Об информации, информационных технологиях и о защите информации" // Официальный интернет-портал правовой информации.
Среди данных признаков можно выделить следующие: информационные технологии; деятельность по сбору, систематизации, анализу и предоставлению сведений; сведения относятся к предпочтениям пользователя.
Соединив указанные признаки в единую конструкцию, мы получим следующий легальный подход: рекомендательные технологии - это информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей.
Сравнивая представленные определения, можно прийти к выводу, что подход КНР является более конкретизированным в части перечисления действий, входящих в процесс работы рекомендательного алгоритма. Между тем оба определения имеют ключевой квалифицирующий признак, выражающийся в процедуре работы с персонализированными данными в целях предоставления информации, соответствующей предпочтениям пользователя.
Обращаясь к одному из фундаментальных научных исследований в этой области Recommender Systems: An Overview <10>, можно выделить две ключевые особенности, определяющие в целом специфику рекомендательных систем.
--------------------------------
<10> Burke R., Felfernig A., Goker M.H. Recommender Systems: An Overview // AI Magazine. 2011. Vol. 32. Iss. 3. P. 13 - 18.
1. Персонализированный характер рекомендательной системы. В этом случае рекомендации предназначены для оптимизации опыта одного пользователя, а не представляют какое-то групповое решение.
2. Рекомендательная система предназначена для помощи пользователю в выборе одного варианта из нескольких. Как правило, эти варианты уже известны заранее и не генерируются индивидуально.
Интересным в рамках этого исследования представляется обращение к разрабатываемым в России генеративным информационным технологиям, например, к YandexGPT 2, которой было предложено сгенерировать свое определение рекомендательных технологий.
В результате генерации YandexGPT 2 предложил следующий вариант: рекомендательные технологии - это методы и алгоритмы (процессы, системы), которые используются для анализа предпочтений и поведения пользователей с целью предоставления персонализированных рекомендаций по различным объектам.
В целом сформулированный подход российского законодательства к определению рекомендательных технологий является достаточно последовательным и взаимодействующим с другими ключевыми понятиями, содержащимися в Законе, в частности "информация", "информационные технологии".
Изменения в Законе об информации РФ касаются запретов на применение рекомендательных технологий, которые будут нарушать права и законные интересы граждан и организаций, а также нарушать законодательство РФ в процессе предоставления такой информации.
В ст. 4 и ст. 6 Положения КНР о рекомендательных алгоритмах, помимо проявления, как в российском законодательстве, принципа законности, происходит расширение требований в части необходимости уважать общественную мораль и этику, соблюдать деловую и профессиональную этику, следовать принципам справедливости и честности, открытости и прозрачности, научности и разумности, благонадежности.
Вместе с тем в отдельных пунктах Положения КНР о рекомендательных технологиях заложены, по своей сути, требования к системам внутреннего обеспечения безопасности, которые должны исполнять поставщики услуг рекомендательных технологий.
Например, в ст. 7 перечисляется совокупность действий, которые должны быть направлены на обеспечение внутренней безопасности функционирования алгоритмов, в частности проверка, мониторинг, обеспечение безопасности, совершенствование систем управления рекомендательными технологиями. Также должны предусматриваться сценарии экстренного реагирования, а в ст. 8 говорится о необходимости постоянного мониторинга за механизмом функционирования системы.
В п. 2 ст. 10.2-2 Закона об информации в РФ сформулировано требование о необходимости информирования пользователей об использовании рекомендательных технологий, при этом конкретный объем сведений, которые будут раскрываться, а также способ информирования в статье не определяются, их сформулирует Роскомнадзор.
Отдельного упоминания заслуживает проект Приказа Роскомнадзора (на момент написания статьи) "Об утверждении порядка взаимодействия Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций с владельцами информационных ресурсов, на которых применяются рекомендательные технологии" <11> (далее - Приказ Роскомнадзора о взаимодействии с владельцами рекомендательных технологий). Пункт 1.2 указанного Приказа наделяет Роскомнадзор полномочиями по направлению запроса о предоставлении доступа к программно-техническим средствам рекомендательных технологий для проведения оценки соответствия применения рекомендательных технологий требованиям ст. 10.2-2 Закона об информации в РФ.
--------------------------------
<11> Проект Приказа Роскомнадзора "Об утверждении порядка взаимодействия Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций с владельцами информационных ресурсов, на которых применяются рекомендательные технологии" // Федеральный портал проектов нормативных правовых актов.
После формулирования подобных полномочий у субъектов предпринимательской деятельности возникли обоснованные опасения в связи с тем, что первоначальная редакция проекта подразумевала возможность удаленного доступа к программно-техническим средствам со стороны Роскомнадзора, что существенно повышало риски для утечки информации, составляющей интеллектуальную собственность и защищенную режимом коммерческой тайны.
В настоящий момент возможность удаленного доступа в Приказе Роскомнадзора о взаимодействии с владельцами рекомендательных технологий в п. 3 заменена на формулировку "...по месту нахождения программно-технических средств или иным согласованным с владельцем информационного ресурса способом".
Указанные изменения значительно снижают риски утечки данных, но все же сохраняют данную угрозу с учетом человеческого фактора. Подобной позиции, например, придерживается генеральный директор Института исследования интернета Карен Казарян <12>, который отмечает, что сохраняется риск утечек со стороны сотрудников Роскомнадзора или ее подрядчика.
--------------------------------
<12> IT-компании поспорили с Роскомнадзором о предоставлении доступа к их серверам и коду // Forbes.ru: официальный сайт.
Например, ст. 29 Положения о рекомендательных алгоритмах Китая отдельно закрепляет требование к учреждению и персоналу, который участвует в оценке безопасности, надзоре и инспекции служб рекомендаций алгоритмов сохранять конфиденциальность личной информации и коммерческих секретов.
В связи с этим заслуживает внимания ценный вывод, отраженный в статье Ю.С. Харитоновой и Т. Ян "Рекомендательные системы: выработка правовых подходов в России и Китае", в которой авторы отмечают, что при стремлении к прозрачности и контролю за рекомендательными алгоритмами необходимо стремиться к достижению баланса между инновационными алгоритмическими решениями и явными и неявными нарушениями принципов добросовестного применения рекомендаций <13>.
--------------------------------
<13> Харитонова Ю.С., Ян Т. Рекомендательные системы: выработка правовых подходов в России и Китае // Предпринимательское право. 2022. N 2. С. 50 - 58.
Также заслуживающей внимания с точки зрения реализации на практике выстраиваемого правового механизма является позиция председателя совета Фонда развития цифровой экономики. Герман Клименко <14> отмечает, что проверка работы рекомендательного алгоритма требует исследования большого объема кода продукта, что потребует большого количества времени и высококвалифицированных программистов. В связи с этим, действительно, на практике Роскомнадзор может столкнуться с большими проблемами при осуществлении проверок кода продукта, связанного с работой рекомендательных алгоритмов.
--------------------------------
<14> Харитонова Ю.С., Ян Т. Указ. соч.
Для сравнения следует упомянуть ст. 23 Положения КНР о рекомендательных алгоритмах, которая закрепляет иной, более системный подход. Предполагается создать классификацию алгоритмов и систему управления безопасностью, при этом проводить оценку алгоритма на основе возможности влиять на общественное мнение, категорий контента, масштаба пользователей и данных, которые обрабатываются рекомендательными технологиями. На основе этих данных будет выстраиваться иерархия.
Также мы видим требования в части транспарентности. Например, социальная сеть "ВКонтакте" сформировала Правила применения рекомендательных технологий социальной сети ВКонтакте и во исполнение вступивших с 1 октября 2023 г. требований также направила внутри социальной сети уведомления с указанием ссылки для ознакомления с данными Правилами. Согласно указанным Правилам выстраивание рекомендаций происходит на основе данных, полученных от отметок "Мне нравится", "Это не интересно", "Поделиться", частоты просмотра контента и т.д.
Таким образом, анализ положений правового регулирования рекомендательных алгоритмов в России и Китае демонстрирует активное развитие правовой базы в обеих странах, при этом в Китае правовое оформление рассматриваемого вопроса началось раньше и в настоящий момент отличается большей системностью и детализацией.
Предъявляемая система требований, в том числе к субъектам предпринимательской деятельности, на практике требует создания системы внутреннего соответствия требованиям, которая будет контролировать и осуществлять мониторинг работы информационных технологий в целях недопущения нарушений законодательства.
Под рекомендательными технологиями автор предлагает понимать информационные технологии, функционирование которых основано на персонализированных предпочтениях пользователя.
