Правила использования технологий дипфейк в праве США и КНР: адаптация зарубежного опыта правового регулирования
В статье рассматриваются возможные пути совершенствования российского законодательства в области регламентирования использования дипфейк-технологий на основе анализа законодательства США и КНР, регулирующего правоотношения в сфере дипфейк-технологий. Целью исследования является анализ теоретических и практических аспектов защиты прав граждан и публичных интересов при создании и распространении дипфейков в информационно-телекоммуникационных сетях. Делается вывод о необходимости установления запрета определенных типов приложений по созданию дипфейков, в частности недопустимости использования технологий дипфейк в политической рекламе, в том числе предвыборной агитации и агитации по вопросам референдума. Учитывая риски, связанные с умышленным использованием дипфейк-технологий в противоправных целях, сформулировано предложение о введении отдельного состава уголовного преступления в сфере распространения дипфейков в киберпространстве.
Ключевые слова: дипфейк-технологии, дипфейк, право на изображение, маркировка контента, информационный посредник, недостоверные сведения, информационно-телекоммуникационные сети.
Введение. С момента появления технологии дипфейк прошло уже несколько десятков лет, и если изначально она была несовершенна и не представляла никакой опасности для прав граждан, то начиная с 2018 года, когда в сети Интернет стали широко доступны приложения, позволяющие использовать данную технологию массово и повсеместно, технология стала легкодоступной для широкого круга лиц, практически без ограничений.
Дипфейк, создаваемый в результате использования специального программного обеспечения, представляет собой форму синтетических медиа, в которой с помощью искусственного интеллекта создается цифровая копия образа или голоса конкретного человека. В российской судебной практике технология дипфейк определяется как дополнительный инструмент обработки (технического монтажа) видеоматериалов, а не способ их создания [2].
Технология дипфейк может быть использована во многих сферах экономической и общественной жизнедеятельности: для создания интерактивного обучающего контента в образовательной сфере, для замены лица дублера (каскадера) на изображение актера в области киноиндустрии, для оказания консультационных услуг потенциальным покупателям в секторе розничной торговли. Однако, несмотря на большое число положительных примеров применения технологии дипфейк в различных секторах экономики и социальной сфере, бесконтрольное использование дипфейков может привести к необоснованным рискам и серьезным негативным последствиям, в частности к политической дезинформации, созданию дипфейк-порнографии, а также финансовому мошенничеству. Так, известен случай, когда генеральный директор британской энергетической компании стал жертвой мошенничества с использованием дипфейка: с помощью данной технологии удалось подделать голос руководителя основного общества, которым генеральному директору было дано указание о переводе 200 тыс. евро на счет подставной компании в Венгрии. Несмотря на то что мошенническая схема была вскоре раскрыта, компания не смогла возместить свои убытки из-за отсутствия надлежащего правового регулирования данной сферы и трудностей с отслеживанием происхождения дипфейков [12].
В настоящее время отсутствие правового регулирования использования технологии дипфейк создает риск нарушения прав граждан на изображение и способно нанести ущерб личной и профессиональной репутации.
Для формирования предложений и рекомендаций относительно правового регламентирования использования технологии дипфейк в российском законодательстве интерес представляет анализ передового зарубежного опыта в данной сфере.
В декабре 2019 года Конгресс США принял Закон о разрешении на национальную оборону (NDAA), в рамках которого упоминался и дипфейк в части установления обязанности руководителя службы национальной разведки представлять отчеты об использовании дипфейков международными правительствами, их способности распространять дезинформацию и их потенциальном влиянии на национальную безопасность страны. Восточный подход к рассматриваемой проблеме представлен Китаем, где действуют строгий запрет на создание дипфейков без согласия пользователя. В настоящий момент КНР является единственной страной, которая ввела законодательный запрет на использование некоторых видов дипфейков.
Правовое регулирование использования технологии дипфейк в США. Законодательство США, регламентирующее правила использования и распространения дипфейков, впервые было принято на уровне отдельных штатов. Так, с сентября 2019 года в штате Техас действует закон, запрещающий распространение видеодипфейков, вводящих в заблуждение, направленных на нанесение ущерба политическим кандидатам или оказывающих влияние на избирательную систему, в течение 30 дней, предшествующих выборам. В октябре 2019 года аналогичный закон был принят в штате Калифорния; он устанавливает идентичный запрет, но с более пролонгированным сроком действия: дипфейки нельзя распространять в течение 60 дней до выборов. В ноябре 2020 года штат Нью-Йорк принял закон, прямо запрещающий использование цифровой копии умершего исполнителя в аудиовизуальном контенте в течение 40 лет после смерти исполнителя, если такое использование может вызвать у общественности ложное представление о наличии согласия исполнителя на такое использование.
В штате Вирджиния в июле 2019 года был принят закон, устанавливающий уголовную ответственность за распространение дипфейков, направленных на принуждение, преследование или запугивание гражданина. Кодекс штата Вирджиния запрещает распространение порнографических дипфейков, но не создание таких дипфейков. Кроме того, законодательство штата Вирджиния устанавливает запрет только в отношении порнографических дипфейков, созданных с намерением изобразить гражданина, которого можно опознать как реального человека по лицу [11].
Следует отметить, на территории США есть два учреждения, осуществляющие полномочия в области дипфейк-технологий: Национальный научный фонд США (NSF), оказывающий поддержку исследованиям в области создания дипфейк-технологий и проверки подлинности дипфейков, и Национальный институт стандартов и технологии США (NIST), осуществляющий исследования стандартов дипфейка. Оба учреждения сотрудничают с частными компаниями в целях разработки способов обнаружения дипфейков [8]. Кроме того, Закон о разрешении на национальную оборону США (NDAA) [13] обязывает Министерство внутренней безопасности США (DHS) представлять ежегодный отчет о фальсификации цифрового контента в течение пяти лет. DHS обязан отслеживать использование дипфейков иностранными государствами, а также угрозы, которые дипфейки представляют для общества, и исследовать способы создания, обнаружения и противодействия дипфейкам.
Communications Decency Act (Закон о порядочности в сфере коммуникаций) предписывает, что нельзя приравнивать провайдера или пользователя интерактивного компьютерного сервиса к издателю или носителю любой информации, предоставленной другим провайдером информационного контента [4]. Отдельные пользователи потенциально могут быть наказаны за клевету и незаконное использование чужого изображения, но сама платформа, на которой дипфейк размещен, не подвергается риску ответственности. Кроме того, запрещено определять для сайтов в сети Интернет определенные формы речи или самовыражения, что соответствует принципу свободы слова и позволяет использовать все виды самовыражения в киберпространстве.
Однако это создает некоторые трудности, когда речь идет о предотвращении распространения дипфейков и дезинформационных материалов. Аналогично Communications Decency Act, Первая поправка к Конституции США является неотъемлемой частью американской демократии, которая обеспечивает и защищает свободу слова и самовыражения [5]. В ряде судебных решений данное положение американского законодательства было истолковано судами в отношении дипфейков как акт самовыражения. В деле "Hustler Magazine, Inc. против Falwell" Верховный Суд отклонил иск о компенсации морального вреда в связи с опубликованием статьи, обвиняющей министра в инцесте, поскольку не были представлены дополнительные доказательства наличия обмана и фактического злонамеренного умысла, необходимых для надлежащей оценки возможности ограничения свободы слова, защищаемой Первой поправкой, в отношении общественных деятелей или вопросов, представляющих общественный интерес [7]. Указанный судебный прецедент демонстрирует защиту свободы слова и выражения мнений, но затрудняет ограничение использования дипфейков.
Согласно законодательству США дипфейки представляют собой производное произведение, которое охраняется разделом 107 Закона США об авторском праве (Copyright Act) [6]. Производное произведение означает, что новый результат интеллектуальной деятельности значительно отличается по внешней форме выражения или характеру охраняемого авторским правом произведения от оригинального произведения. Применяемая в судебной практике доктрина преобразующего использования (transformative use) позволяет при определенных условиях признать акт создания дипфейка актом добросовестного использования, при котором защищенное произведение используется с новым смыслом или новой эстетикой, стилем и, следовательно, не нарушает права на оригинал. При этом произведение должно разумно восприниматься как воплощение определенной художественной цели, передающей смысл, полностью отделенный от оригинала. Суды руководствуются двухступенчатым тестом "преобразуемости" работы: смысл производного произведения отделен от оригинального произведения; такой смысл очевидно считывается пользователем.
Правовое регулирование использования технологии дипфейк в КНР. Китайское правительство стремится сдерживать распространение дипфейков. С 1 января 2020 года был принят Закон, предписывающий обязательную маркировку любого фальсифицированного видео- или аудиоконтента, а также контента, созданного с использованием искусственного интеллекта и нейросетей. Обязанность по маркировке указанного контента возложена на поставщиков приложений [9]. Закон обязывает операторов платформ самостоятельно идентифицировать и помечать или удалять немаркированный контент. Согласно Закону, производство и распространение фейковых новостей запрещены и подлежат незамедлительному удалению после идентификации. Ответственность за соблюдение правил возложена на Управление киберпространства Китая (CAC).
В целях борьбы с незаконным политическим контентом в Законе установлены дополнительные требования и правила. Во-первых, предусмотрена обязанность пользователей пройти регистрацию на платформах с обязательным указанием персональных данных, включающих номер государственного удостоверения личности и номер мобильного телефона. Во-вторых, у каждой платформы должен быть встроенный электронный сервис подачи жалоб на неправомерное использование контента. В-третьих, платформы по распространению аудиовизуального контента должны издать собственные отраслевые стандарты и руководящие принципы. Наконец, правительственные ведомства обязаны организовывать регулярные проверки в целях соблюдения платформами механизма регулирования онлайн-контента в соответствии с соглашениями об оказании услуг [3].
С 10 января 2023 г. в Китае действует Закон о дипфейках. Содержание Закона включает три основных правила. Во-первых, необходимо, чтобы отдельные лица дали свое согласие на то, чтобы их изображение могло быть использовано в видеодипфейке. Во-вторых, запрещено использовать технологии дипфейка для распространения фейковых новостей. Наконец, запрещен любой контент, который противоречит действующим законам, наносит ущерб имиджу страны и национальным интересам или ставит под угрозу национальную безопасность и подрывает экономику. Кроме того, необходимо делать специальную отметку на видеоконтенте, использующем технологию дипфейк.
С одной стороны, Закон позволяет китайскому правительству сохранять контроль над технологией дипфейк, с другой - оставляет частным компаниям возможность извлекать выгоду от использования дипфейк-технологии. Однако любая компания, желающая производить дипфейки, должна пройти аудит безопасности.
Выводы. Несмотря на существующую угрозу, исходящую от дипфейков, в законодательстве США действует множество ограничений для их законодательного закрепления. Такие ограничения включают раздел 230 Закона о порядочности в сфере коммуникаций, Первая поправка, законодательство об авторском праве, в том числе законы о добросовестном использовании (Fair Use laws).
В отличие от США, китайское законодательство реализует целенаправленное правовое регулирование использования дипфейков и дипфейк-технологий. Однако практическая реализация специального закона вызывает ряд проблем. Во-первых, процедура получения согласия от лиц, изображение которых используется на видео, четко не прописана. Во-вторых, маркировку дипфейков можно легко изменить путем перекодировки видео.
Предлагается запретить отдельные виды приложений по созданию дипфейков без согласия пользователя. Учитывая потенциальное негативное воздействие конкретных приложений по созданию дипфейков, в частности порнографического характера или в целях политической дезинформации, с одной стороны, и определенные положительные моменты использования технологии дипфейк, с другой стороны, полный запрет этой технологии представляется необоснованным. Одним из вариантов решения данной проблемы может стать запрет определенных типов приложений по созданию дипфейков. В некоторых странах такие предложения уже выдвигались, например в США, Нидерландах и Великобритании [14].
Учитывая вред, который может нанести умышленное использование дипфейков, необходимо расширение существующей правовой базы в отношении уголовных преступлений, и законодательство некоторых государств предусматривает составы преступлений в этой сфере [11]. Так, в США предусмотрена уголовная ответственность за выдачу себя за другого человека с намерением причинения ему вреда, запугивания, угрозы или обмана.
Уголовный кодекс РФ в ч. 2 ст. 128.1 предусматривает уголовное наказание за клевету (распространение заведомо ложных сведений, порочащих честь и достоинство другого лица или подрывающих его репутацию), содержащуюся в том числе в публично демонстрируемом произведении либо совершенную публично с использованием информационно-телекоммуникационных сетей. В целях применения данной нормы в отношении распространения дипфейка потребуется представить доказательства ложности и порочащего характера содержащихся в дипфейке сведений, что не во всех случаях представляется возможным [1]. В связи с этим необходимо предусмотреть специальный состав уголовного преступления в сфере распространения дипфейков в киберпространстве.
Необходимо ввести запрет на использование дипфейков в политической рекламе. Исследования показывают, что фальсификации в сочетании с таргетированием могут использоваться для манипулирования политическими мнениями пользователей. В целях нивелирования данного риска следует внести изменения в Федеральные законы от 22.02.2014 N 20-ФЗ "О выборах депутатов Государственной Думы Федерального Собрания Российской Федерации", от 12.06.2002 N 67-ФЗ "Об основных гарантиях избирательных прав и права на участие в референдуме граждан Российской Федерации", от 10.01.2003 N 19-ФЗ "О выборах Президента Российской Федерации" в части введения полного запрета на использование технологий дипфейк в политической рекламе, в том числе в предвыборной агитации и агитации по вопросам референдума.
