Особенности китайского подхода к безопасности искусственного интеллекта. Стратегия развития в отношении права и стандартизации
В ближайшие годы предполагается бурное развитие технологий искусственного интеллекта и появление более сложных систем, других типов ИИ, предоставляющих новые большие возможности, но одновременно провоцирующие возникновение новых проблем. Множество научных исследований посвящено сфере искусственного интеллекта, именуемой "технологией массового использования". Актуальное значение имеют правовое регулирование и государственная поддержка системы и технологий ИИ. Китайская Народная Республика вырабатывает специфический подход к развитию системы искусственного интеллекта и свою стратегию, планируя создать цифровое правительство и разрабатывая конституционно-правовые основы для регулирования ИИ на государственном и региональном уровне при осуществлении плана по развитию искусственного интеллекта нового поколения. В статье обращается внимание на принципы цифровой этики, а также на риски, которые возникают при использовании ИИ.
Ключевые слова: конституционно-правовое регулирование искусственного интеллекта, искусственный интеллект нового поколения, цифровое правительство, Общий план развития цифрового Китая, цифровая культура, принципы цифровой этики, Пекинские принципы по использованию ИИ для несовершеннолетних, риски при использовании ИИ, информационные технологии, китайские механизмы стандартизации, стратегия развития ИИ.
In the coming years, it is expected that artificial intelligence technologies will rapidly develop and more complex systems, other types of AI will emerge, providing new great opportunities, but at the same time provoking the emergence of new problems. Many scientific studies are devoted to the field of artificial intelligence, called "mass use technology". Legal regulation and state support for the AI system and technologies are of current importance. The People's Republic of China is developing a specific approach to the development of the artificial intelligence system and its own strategy, planning to create a digital government and developing a constitutional and legal basis for regulating AI at the state and regional levels when implementing a plan for the development of new-generation artificial intelligence. The article draws attention to the principles of digital ethics, as well as the risks that arise when using AI.
Key words: constitutional and legal regulation of artificial intelligence, new-generation artificial intelligence, digital government, General Development Plan for Digital China, digital culture, principles of digital ethics, Beijing Principles for the Use of AI for Minors, risks in using AI, information technology, Chinese standardization mechanisms, AI development strategy.
Введение. К 2030 году КНР станет мировым инновационным центром ИИ. Расходы страны на фундаментальные исследования в сфере ИИ составят до 150 млрд долл. США, в смежных отраслях - 1,5 трлн долл. США. В китайской стратегии заявлялось, что ИИ стал новым направлением международной конкуренции. Крупнейшие развитые страны мира рассматривают ИИ как основную стратегию повышения национальной конкурентоспособности" [3; 5].
Современный Китай - один из мировых лидеров по использованию искусственного интеллекта. Прагматизм китайского подхода в отношении технологий ИИ влияет на правовое регулирование создания и развития искусственного интеллекта. Опыт Китайской Народной Республики может быть использован и в России, при этом важно обратить внимание на правовую базу, основанную на конституционных нормах при обязательном соблюдении этических правил и цифровой культуры. Вопросы правового регулирования находятся в стадии теоретических концептуальных разработок, включая осуществление контроля за использованием технологий ИИ со стороны государственных структур, а также правоохранительных органов и прокуратуры. Все стоящие перед государствами проблемы в рассматриваемой сфере - от основ права до цифровой этики - крайне актуальны в XXI веке, поскольку влияют на национальную безопасность любого современного государства, а также на безопасность всего мирового сообщества.
Многочисленные исследования в правовой сфере, связанные с технологиями ИИ, все еще недостаточны. Например, существует научный пробел в понимании комплексных национальных стратегий по искусственному интеллекту.
Методология. В работе использованы общенаучные и специальные методы, что позволяет рассмотреть стратегические документы, касающиеся развития ИИ в КНР.
Научная новизна исследования заключается в том, что предпринимается попытка определения особенностей в организационной структуре и правовом регулировании при разработке и использовании искусственного интеллекта в Китае для формирования концептуального подхода в рамках рассматриваемой темы при изучении китайской стратегии ИИ.
Практическая значимость: данная научная информация формирует представление о правовом регулировании технологий искусственного интеллекта в Китае и может быть полезна в практике конституционно-правового регулирования в рассматриваемой сфере в России и других странах, а также на международном уровне для выработки международного регламента по применению ИИ.
Китайский подход к развитию искусственного интеллекта нового поколения. В Китайской Народной Республике активно развивается законодательство по применению искусственного интеллекта. Регулирование ИИ происходит, главным образом, на государственном и региональном уровне. С 2017 года действует китайский План по развитию искусственного интеллекта нового поколения, а ИИ рассматривается как стратегическая технология для новой научно-технической революции (цифровой революции). Этот план включает разработку концептуальных основ для дальнейшего развития китайского государства по созданию правовой базы регулирования и контроля систем ИИ с учетом этических норм, при несоблюдении которых могут произойти негативные и необратимые процессы в жизни общества.
В создавшихся условиях в КНР юридически оформилось новое направление развития ИИ в "трехмерных" координатах: технологические инновации, инженерные практики (), надежность и безопасность ().
Государственный совет КНР разработал План развития народного хозяйства и общества КНР и Краткий план на перспективу до 2035 года () [7].
Учитывая, что искусственный интеллект обладает большим потенциалом, но его использование при несоблюдении цифровой этики может привести к этическим проблемам, на теоретическом уровне уже разработаны общепризнанные в мировом сообществе принципы:
- безопасность и надежность (включает защиту от кибератак и других угроз);
- конфиденциальность (данные, которые используются для обучения систем ИИ, должны быть защищены от несанкционированного доступа);
- справедливость (системы ИИ не должны дискриминировать определенные группы людей);
- ответственность за любые последствия использования систем ИИ как разработчиками, так и пользователями;
- устойчивость систем ИИ заключается в том, чтобы они могли адаптироваться к изменяющимся условиям и требованиям [2].
Китайский институт стандартов электроники предложил в контексте общепризнанных правил соблюдать следующие этические принципы при применении ИИ: во-первых, технологии должны отвечать интересам граждан КНР; во-вторых, развитие и внедрение технологий ИИ сопряжено с ответственностью; в-третьих, права и обязанности при разработках и пользовании системой ИИ должны строго соблюдаться.
Министерством науки и технологии КНР разработан и принят Кодекс этики искусственного интеллекта нового поколения (), главный постулат которого - ИИ должен быть всегда подконтролен человеку [8]. В 2022 году был представлен документ по укреплению этического управления в области ИИ (Position Paper of the People's Republic of China on Strengthening Ethical Governance of Artificial Intelligence).
Следующая проблема при использовании систем ИИ - риски, в число которых входят:
- нарушение конфиденциальности данных;
- дискриминация и предвзятость;
- автоматизация принятия решений, которая приводит к ошибкам и неправильным решениям, что особенно важно для медицины и юриспруденции;
- киберугрозы, включая утечку данных и нарушение работы критически важных структур или систем;
- непредсказуемость последствий при применении системы ИИ, что может повлечь новые проблемы и усугубление уже существующих.
Учитывая опасность возникновения рисков при использовании системы ИИ, Академия информационно-коммуникационных технологий Китая описала некоторые риски, связанные с злоупотреблением ИИ: риски, связанные с национальной безопасностью страны из-за применения в армии; риски при массовом использовании информации, носящие экстремистский и террористический характер; риски алгоритмов машинного обучения и т.д. В этом направлении разрабатываются правовые нормы по безопасному использованию ИИ; особое внимание уделено этическим нормам и защите персональных данных. В китайской "Белой книге по управлению ИИ выделяются технические характеристики для систем ИИ. Например, сквозной характер применения приводит к рискам, связанным с жизнедеятельностью, а также так называемый скрытый черный ящик содержит алгоритмы, которые практически невозможно понять и объяснить [2].
Использование ИИ несовершеннолетними имеет не только положительные, но и отрицательные последствия: отсутствие социального взаимодействия, зависимость от технологий, нарушение конфиденциальности. Учитывая негативные последствия использования ИИ несовершеннолетними, Академия информационно-коммуникационных технологий Китая разработала и предложила Пекинские принципы по использованию ИИ для несовершеннолетних с целью применения их в образовательных учреждениях для защиты физического и психологического здоровья детей. Министерство науки и технологий Китая в июле 2021 года призывало вузы осуществлять специальные внутренние проверки с целью контроля за соблюдением этических норм при применении ИИ в образовательной и других сферах.
В КНР создано специальное управление по реализации плана искусственного интеллекта нового поколения, которое подчиняется Министерству науки и технологий и координирует реализацию плана развития ИИ в пятнадцати китайских ведомствах.
Важную роль в разработке и применении технологий ИИ играет Стратегический консультативный комитет по ИИ нового поколения (), в котором принимают активное участие ученые, военные и представители разных, в том числе коммерческих организаций в области ИИ (Alibaba, Baidu, Tencen). В регулировании ИИ нового поколения участвуют также Национальная комиссия по реформе и развитию, имеющая статус государственного органа; эта комиссия несет ответственность за распределение субсидий IT-компаниям. В разработках и регулировании ИИ задействованы также Министерство общественной безопасности КНР (осуществляет контроль за внедрения систем распознавания лиц), Управление киберпространством Китая (контролирует правовые вопросы, связанные с большими данными), Министерство здравоохранения (при использовании ИИ в медицинских целях, например, создании карт здоровья и т.д.).
Китайская национальная стратегия развития системы ИИ базируется на следующих факторах: фундаментальные технологии; большие данные; квалифицированные кадры; коммерческая система ИИ и смежных технологий [4, с. 55].
На региональном уровне наиболее успешно развиваются технологии ИИ в городах Шанхай и Шэньчжэнь; их опыт может быть полезен для формирования регионального законодательства. Так, в Шэньчжэне юридическую силу с 2022 года имеет Положение о продвижении индустрии ИИ. Это первый документ в Китае о регулировании ИИ как отдельного направления. С 2022 года действуют Шанхайские правила содействия развитию ИИ, направленные на внедрение инноваций ИИ при соблюдении этических норм и рекомендаций.
Согласно правовому акту Госсовета по укреплению цифрового государственного строительства к 2025 году планируется создание в Китае цифрового правительства (электронного правительства, или цифрового управления), которое должно обеспечить сокращение бюрократического аппарата, справедливую систему распределения доходов и безопасную, контролируемую систему управления. Цифровое правительство представляет собой инициативу по модернизации государственного управления, являясь частью стратегии "ИнтернетПлюс", действующей с 2015 года. Оно связано с системой социального кредита, которая оценивает поведение граждан и организаций и влияет на их доступ к государственным услугам. Создаются специальные онлайн-платформы и мобильные приложения, а также используются технологии Big Data для анализа больших данных и объемов информации. Особое внимание при использовании технологии Big Data уделяется правовой базе.
По мнению О.Л. Алферова, в юриспруденции парадигма больших данных находит применение в концепции "персонализированного правового регулирования" для формулирования более точных правил поведения, применяемых к отдельным группам или индивидам, что позволяет отказаться от метода правового регулирования посредством закрепления общих правил [1, с. 175].
В феврале 2023 года разработан Общий план развития цифрового Китая для формирования цифровой культуры.
Законотворческий процесс в отношении ИИ регулируется Законом КНР 2023 года "О законодательстве" (). Универсального законодательства по регулированию искусственного интеллекта пока Китай не имеет, оно находится в стадии разработки.
Как отмечает Фу Цзытан, "в Китайской Народной Республике законодательная деятельность представляет собой государственную деятельность, направленную на принятие или утверждение каким-либо государственным органом в соответствии с определенной процедурой действий, отражающих волю правящего класса и обеспечивающих соблюдение норм поведения в принудительном порядке" [9]. Правовая деятельность в сфере ИИ представляет собой масштабный общественный проект нового поколения, а руководящие принципы в законодательстве обеспечивают законодательные разработки для единого понимания существующих проблем, поэтому созданы механизмы стандартизации для ИИ.
Китайские механизмы стандартизации искусственного интеллекта. В Китайском институте стандартизации в сфере электроники существует Национальный технический комитет Китая по стандартизации информационных технологий (), отвечающий за разработку национальных стандартов для ИИ, новых технологий, а также за управление рисками. Указанным комитетом выработаны требования к технологиям искусственного интеллекта, предусматривающие, что конечная цель ИИ - это благополучие человека. В связи с этим установлены необходимость соблюдения прозрачности и подотчетности при разработке систем ИИ, а также обязательность защиты интеллектуальной собственности. Так, в стандартах требований к безопасности персональных данных () отражены вопросы кибербезопасности, защиты персональных данных, системы управления государственными и промышленными объектами и т.д.
В Китае, как уже отмечалось, действует "Белая книга по стандартизации безопасности искусственного интеллекта" [2], где представлены стандарты, регулирующие систему ИИ в Китае и других странах, включающая:
- оценку защиты личной информации;
- правила и стандарты личной информации;
- обязательства по созданию системы защиты личной информации;
- требования по созданию системы аудита информации.
Отметим, что на международной основе в 2024 году во исполнение Меморандума от 30.09.2023 опубликована "Белая книга", изданная Техническим комитетом по стандартизации ИИ N 164, РУССОФТ и индийской (CIRTC) оценки соответствия технологий ИИ [6], где определено состояние международных и национальных документов по стандартизации пилотных проектов, а также подходы к этическому регулированию ИИ. В дальнейшем будут разработаны метрики оценки качества для технологий ИИ и составлены единые документы по стандартизации для Индии и России.
Можно предложить использовать и совершенствовать китайские стандарты по применению технологий ИИ и вовлечь КНР в эту деятельность для расширения правового сотрудничества по применению ИИ.
Выводы. Успешное развитие государств все больше зависит от применения новейших технологий, в том числе и системы ИИ, но уязвимость этой системы делает актуальными проблемы национальной и международной безопасности. В КНР особое внимание уделяется контролю за действующими и создаваемыми технологиями ИИ. Например, Административное бюро по сетевой пропаганде и отдел Информационного агентства Государственного Совета Китая осуществляют контроль за интернетом и развитием ИИ. Кроме того, в КНР созданы подразделения киберполиции и киберцензоров и установлены обязательства для операторов сети и провайдеров. Сегодня Китай - один из мировых лидеров в сфере регулирования и развития технологий ИИ, и государство принимает в этом активное участие, использует в том числе региональный компонент для развития нового поколения ИИ, включая правовую составляющую.
КНР пытается доминировать в сфере систем ИИ и сократить зависимость от американской и западной цивилизации. В стране уже разработаны системы ИИ, имеющие стратегическое преимущество.
На развитие цифрового правительства КНР влияет глобализация, и использование цифровизации в управленческой сфере трактуется как уникальная инновационная система, что позволит Китаю перейти на качественно новый уровень для адаптации к сложившимся мировым реалиям.
Технологии ИИ применяются в прокуратуре и в судах; нейросети используются для составления юридических документов, при анализе судебной практики, для автоматического распознавания речи и обработки больших объемов разных данных, поэтому разработка правовой базы регулирования ИИ с учетом этической составляющей должна "успевать" за развитием технологи ИИ. Например, в 2023 году введены 24 правил регулирования ИИ, в числе которых обязательные ярлыки и регистрация алгоритмов.
КНР и Россия сотрудничают в рамках БРИКС, ШОС, IT-форума, включая и вопросы развития искусственного интеллекта, что предполагает международное сотрудничество в рамках безопасности с учетом сложившихся реалий.
В Российской Федерации разрабатывается цифровой кодекс. Министр цифрового развития РФ Максут Шадаев на конференции "Правовое обеспечение суверенитета России: проблемы и перспективы" заявил, что его создание - сложный путь, поэтому завершить работу планируется не раньше 2026 года <1>.
--------------------------------
<1> Юристы предлагают регулировать вопросы цифрового права отдельным кодексом // Ведомости. 2023. 22 нояб.: [Электронный ресурс].
Для создания современной нормативной правовой базы и систематизации отраслевых законов следует считать цифровое право отдельной отраслью правовой системы. В данном направлении может рассматриваться международное сотрудничество для выработки международных документов по безопасности ИИ, в том числе, как вариант, - международного цифрового кодекса.
