Кибербезопасность и ИИ: угрозы, защита и правовое регулирование
Автор: Петухов Олег Анатольевич, юрист, руководитель юридической компании «ЛЕГАС»
Сайт: legascom.ru
E-mail: petukhov@legascom.ru
Статья раскрывает двойственную роль искусственного интеллекта (ИИ) в кибербезопасности: с одной стороны, ИИ - мощный инструмент защиты, с другой - средство для новых, более изощрённых кибератак. Автор анализирует технологические риски, пробелы в правовом регулировании и варианты выстраивания комплексной защиты информации.
Как ИИ меняет ландшафт кибербезопасности
ИИ активно применяют для усиления защиты: он обрабатывает большие объёмы данных, выявляет аномалии, прогнозирует угрозы и автоматически реагирует на инциденты. Например, системы на базе машинного обучения могут заметить нетипичные попытки входа или подозрительные схемы доступа, которые легко упустить при ручной аналитике.
Одновременно злоумышленники используют ИИ для атак нового типа:
Вредоносное ПО с адаптацией. Вредоносные программы анализируют работу средств защиты и подстраиваются под них, чтобы обходить обнаружение.
Фишинг на базе ИИ. Письма и сообщения становятся более персонализированными и убедительными.
Deepfake и синтетический контент. Поддельные голоса и видео усложняют идентификацию мошенничества и создают проблемы для расследований.
«Заражение данных». Злоумышленники намеренно подмешивают ложные данные, чтобы исказить работу моделей ИИ.
Боты для дезинформации. Автоматизированные аккаунты массово распространяют фейки в соцсетях, особенно сильно влияя на молодую аудиторию.
Правовое регулирование ИИ: международный и российский контекст
Международные подходы
ЕС. Регламент об ИИ ориентирован на создание человекоцентричного ИИ и защиту здоровья, безопасности и верховенства права.
США. Рекомендации NIST и указ президента Байдена (октябрь 2023) задают стандарты для критической инфраструктуры, кибербезопасности и федеральных проектов.
Китай. Один из самых проработанных подходов: маркировка контента, созданного ИИ, контроль платформ, стратегия развития ИИ до 2030 года и жёсткие правила для deepfake и синтетических медиа.
При этом ни одна из существующих правовых систем не закрывает все риски ИИ, особенно те, что возникают без прямого участия человека.
Регулирование в России
В РФ правовую основу ИИ формируют:
Указ Президента РФ от 10.10.2019 № 490 - Национальная стратегия развития ИИ до 2030 года.
Федеральный закон от 24.04.2020 № 123‑ФЗ - эксперимент по регулированию ИИ в Москве и уточнение норм о персональных данных.
Федеральный закон от 31.07.2020 № 258‑ФЗ - экспериментальные правовые режимы для цифровых инноваций в разных отраслях.
Однако единого нормативного акта, который охватывал бы все аспекты разработки, сертификации, применения и ответственности в сфере ИИ, в России пока нет.
Ключевые проблемы и риски
Этические и гражданские риски. Технологии вроде распознавания лиц могут привести к слежке, дискриминации и нарушению неприкосновенности частной жизни.
Сложности расследований. Преступления с использованием ИИ часто трансграничны, а у правоохранительных органов не хватает компетенций и инструментов для сбора доказательств.
Пробелы в ответственности. Правовые режимы не всегда учитывают специфику ИИ: автономность решений, распределённость участников, «чёрные ящики» моделей.
Дестабилизирующий потенциал дезинформации. Боты и deepfake могут влиять на общественное мнение и доверие к официальным источникам.
Практические примеры и меры защиты
Опыт Китая показывает, что обязательная маркировка ИИ‑контента и контроль со стороны платформ помогают снизить риски введения пользователей в заблуждение. Для эффективной защиты нужны:
Технологические меры. Интеллектуальная аналитика, средства обнаружения deepfake, контроль целостности данных и защита от состязательных атак на модели ИИ.
Правовые механизмы. Чёткие правила маркировки, разграничение ответственности между разработчиками, операторами и пользователями ИИ, процедуры фиксации цифровых доказательств.
Международное сотрудничество. Объединённые следственные группы, обмен данными с провайдерами и платформами, единые стандарты для трансграничных расследований.
Участие частного сектора. Бизнес и разработчики должны участвовать в создании методов обнаружения и отслеживания преступников, использующих ИИ.
Выводы и рекомендации
ИИ - это одновременно и инструмент защиты, и вектор новых угроз. Действующие правовые механизмы не успевают за темпами технологического развития, особенно в части автономных решений и трансграничных инцидентов.
Для повышения информационной безопасности необходимо:
развивать адаптивные технологии защиты на базе ИИ;
формировать единые государственные и международные стандарты регулирования;
закрепить чёткие критерии ответственности и процедуры доказывания при инцидентах с ИИ;
повышать квалификацию специалистов правоохранительных органов и развивать межведомственное и международное взаимодействие;
усиливать правовую и цифровую грамотность пользователей, чтобы снизить эффективность фишинга и социальной инженерии.
Только комплексный подход - сочетание технологий, продуманного регулирования и кооперации между государством, бизнесом и экспертами - позволит эффективно противостоять текущим и будущим угрозам, связанным с применением ИИ.
