Персональные данные и этика в эру искусственного интеллекта: правовые аспекты цифровизации образования
В статье рассматриваются ключевые направления совершенствования правового регулирования технологий искусственного интеллекта в образовании, анализируются международные подходы и предлагаются возможные пути развития российского законодательства в данной сфере. Особое внимание уделено противоречиям между технологическим прогрессом и правами на приватность, свободу выражения мнений и защиту от дискриминации, возникающим при использовании алгоритмов анализа поведения учащихся.
Ключевые слова: искусственный интеллект, правовое регулирование, образовательное право, защита персональных данных, конфиденциальность, этика ИИ.
The article examines key areas for improving the legal regulation of artificial intelligence technologies in education, analyzes international approaches, and suggests possible ways to develop Russian legislation in this area. Particular attention is paid to the contradictions between technological progress and the rights to privacy, freedom of expression, and protection from discrimination that arise when using algorithms to analyze student behavior.
Key words: artificial intelligence, legal regulation, educational law, personal data protection, confidentiality, AI ethics.
В современных условиях цифровизации образовательной сферы наблюдается стремительное внедрение технологий искусственного интеллекта (ИИ), что создает новые правовые вызовы и требует комплексного регулирования. Анализ существующих нормативных правовых актов и научных подходов показывает, что правовое регулирование использования ИИ в образовании находится на начальной стадии формирования как в России, так и за рубежом. Несмотря на растущую актуальность, отсутствует единая концепция регулирования, учитывающая специфику образовательного процесса, защиту персональных данных обучающихся и этические аспекты внедрения ИИ.
Актуальность правового регулирования использования технологий искусственного интеллекта в образовании обусловлена необходимостью обеспечения баланса между инновационным развитием образовательной сферы и защитой фундаментальных прав обучающихся, педагогов и образовательных учреждений. Как отмечается в научной литературе, использование ИИ в образовательной среде связано с обработкой значительных объемов персональных данных, что требует особого внимания к вопросам конфиденциальности и информационной безопасности. Правовое регулирование использования технологий искусственного интеллекта призвано создать четкие рамки для разработки и внедрения этих технологий с учетом особенностей образовательного процесса и интересов его участников.
Цель данного исследования заключается в анализе перспектив правового регулирования использования технологий на основе искусственного интеллекта в образовании, выявлении существующих правовых проблем и формулировании предложений по совершенствованию нормативно-правовой базы в этой области. Комплексный подход к решению данной проблемы предполагает рассмотрение как международного опыта правового регулирования, так и российских законодательных инициатив в контексте образовательного права.
Анализ международного опыта правового регулирования применения искусственного интеллекта в образовании демонстрирует различные подходы к решению этой комплексной проблемы.
В США существует ряд федеральных законов, направленных на защиту прав обучающихся при использовании цифровых технологий в образовательном процессе. Ключевым нормативным актом является Закон о правах семьи на образование и неприкосновенность частной жизни (FERPA), который защищает конфиденциальность образовательных записей учащихся. Данный закон накладывает строгие ограничения на образовательные учреждения в отношении раскрытия персональных данных учащихся третьим лицам, включая разработчиков ИИ-систем.
Другим важным нормативным актом является Закон о защите конфиденциальности детей в интернете (COPPA), который применяется к веб-сайтам и онлайн-сервисам, собирающим личную информацию от детей младше 13 лет. COPPA требует получения родительского согласия и устанавливает строгие правила использования собранных данных, что особенно актуально в контексте применения технологий искусственного интеллекта, требующих ввода данных учащихся. Образовательные учреждения обязаны обеспечить соответствие используемых ИИ-систем требованиям COPPA.
В Европейском союзе правовое регулирование использования ИИ в образовании опирается на Общий регламент по защите данных (GDPR), который устанавливает более строгие требования к обработке персональных данных по сравнению с американским законодательством. GDPR предъявляет особые требования к получению информированного согласия, праву на забвение и прозрачности обработки данных, что существенно влияет на разработку и внедрение ИИ-систем в образовательный процесс европейских учебных заведений.
В разных юрисдикциях по всему миру действуют собственные законы о конфиденциальности и защите данных в Интернете. Например, в Бразилии действует Общий закон о защите данных (Lei Geral de de Dados, LGPD), а в Канаде - Закон о защите конфиденциальности потребителей (CPPA). В целом эти законы похожи на европейский регламент GDPR и Закон Калифорнии CCPA.
В России существует уголовная ответственность за нарушение приватности несовершеннолетних (ст. 137 УК РФ). Однако в цифровой среде сбор данных о детях (здоровье, семья, поведение) через приложения и соцсети остается проблемой. Это создает "эффект наблюдателя", вынуждая детей менять поведение из-за ощущения слежки. Кроме того, под угрозой оказывается свобода выражения мнений (статьи 23 и 29 Конституции РФ), гарантирующая защиту чести, свободу мысли и слова <1>.
--------------------------------
<1> Конституция Российской Федерации: принята всенародным голосованием 12.12.1993 (с изменениями, одобренными в ходе общероссийского голосования 01.07.2020) // Собрание законодательства РФ. 2020. N 31. Ст. 4398.
Правовое регулирование искусственного интеллекта находится в стадии формирования, особенно в контексте его применения в образовательной сфере. Действующее законодательство не содержит специальных норм, регулирующих использование технологий искусственного интеллекта в образовании, однако существуют общие нормативные акты, которые косвенно затрагивают данную сферу. Одним из ключевых документов является Федеральный закон от 27.07.2006 N 152-ФЗ "О персональных данных", который устанавливает принципы и правила обработки персональных данных, в том числе в образовательных учреждениях <2>. Массовый сбор данных и наблюдение могут ограничивать эти права, так как люди начинают "самоцензурироваться", зная о возможном анализе их действий [2].
--------------------------------
<2> О персональных данных: Федеральный закон от 27.07.2006 N 152-ФЗ (ред. от 14.07.2022) // Собрание законодательства РФ. 2006. N 31 (ч. 1). Ст. 3451.
В начале 2025 года Сколковский институт науки и технологий (Сколтех) стал первым российским вузом, принявшим отдельный документ, регулирующий использование искусственного интеллекта в обучении <3>. Новое положение основано на принципах прозрачности, проверки достоверности данных и обязательного указания источников. Нарушения приравниваются к академической недобросовестности, что может повлечь дисциплинарные меры.
--------------------------------
<3> Положение о принципах использования искусственного интеллекта в образовательной деятельности: утв. Приказом ректора Сколковского института науки и технологий от 20.12.2024 N 1630 // Сколковский институт науки и технологий. Москва, 2024. 11 с.
Инициатива возникла после опроса преподавателей, которые отметили преимущества ИИ в оптимизации рутины, персонализации обучения и стимулировании творчества, но выразили опасения о рисках для критического мышления и академической честности. Документ, соответствующий российским законам и принципам ЮНЕСКО, подчеркивает: ИИ - лишь вспомогательный инструмент, а ответственность за решения остается за людьми. Преподаватели могут устанавливать собственные правила применения ИИ в рамках курсов, но обязаны заранее информировать студентов об этих условиях.
Сколтех планирует ежегодно обновлять положение, учитывая развитие технологий, и проведет тренинги для грамотного использования ИИ. Цель - усилить качество образования через инновации, сохранив человекоцентричный подход и академические стандарты.
В России также реализуется Национальная стратегия развития искусственного интеллекта на период до 2030 года (утв. Указом Президента РФ от 10.10.2019 N 490), в рамках которой предусмотрено создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта. Ключевыми задачами регулирования в сфере ИИ являются формирование правовых условий для разработки и внедрения технологий искусственного интеллекта, а также создание механизмов для возможного использования результатов работы этих технологий в различных сферах, включая образование.
Несмотря на наличие отдельных законодательных инициатив, в российском правовом поле отсутствует комплексное регулирование использования технологий искусственного интеллекта в образовании. Это создает правовую неопределенность для образовательных учреждений, внедряющих такие технологии, и может привести к нарушению прав обучающихся на защиту персональных данных и доступ к качественному образованию.
Перспективы развития российского законодательства в сфере регулирования искусственного интеллекта в образовании связаны с необходимостью создания комплексной нормативной базы, учитывающей специфику образовательной деятельности и обеспечивающей баланс между инновационным развитием и защитой прав участников образовательного процесса. Первоочередной задачей является интеграция положений об использовании искусственного интеллекта в базовые образовательные законы, включая Федеральный закон "Об образовании в Российской Федерации", с определением правового статуса технологий искусственного интеллекта в образовательном процессе и установлением общих принципов их применения.
Перспективным направлением развития законодательства является разработка специальных нормативных актов, регламентирующих порядок проведения экспертизы и сертификации образовательных продуктов на основе искусственного интеллекта. Такие акты должны устанавливать требования к безопасности, эффективности и этичности ИИ-систем, используемых в образовательном процессе, а также определять полномочия государственных органов по осуществлению контроля за их соблюдением.
