ИИ для обнаружения угроз: возможности и риски
Автор: Петухов Олег Анатольевич, юрист, специалист по информационной безопасности, руководитель юридической компании «ЛЕГАС» (legascom.ru, petukhov@legascom.ru )
Введение
Искусственный интеллект (ИИ) всё активнее внедряется в сферу информационной безопасности - от автоматического обнаружения кибератак до анализа поведения пользователей. По данным исследований, к 2026 году более 60 % компаний планируют использовать ИИ решения для защиты данных.
В этой статье я, Петухов Олег Анатольевич, рассмотрю возможности и риски ИИ в обнаружении угроз с трёх позиций: юриста, специалиста по информационной безопасности и руководителя. Разберу техническую составляющую, законодательство, судебную практику и приведу примеры из собственной практики и работ коллег.
Возможности ИИ в обнаружении угроз
ИИ позволяет:
• автоматически выявлять аномалии в сетевом трафике;
• прогнозировать атаки на основе исторических данных;
• сокращать время реагирования на инциденты с часов до минут;
• анализировать огромные массивы данных быстрее человека;
• адаптивно обучаться новым типам угроз.
Примеры решений:
• системы UEBA (User and Entity Behavior Analytics);
• платформы SOAR (Security Orchestration, Automation, and Response);
• инструменты машинного обучения для классификации вредоносного ПО.
Риски применения ИИ
1. Ложные срабатывания. Алгоритмы могут ошибочно идентифицировать легитимные действия как угрозы.
2. Уязвимости в ИИ моделях. Злоумышленники могут «обмануть» ИИ, подменив входные данные (adversarial attacks).
3. Зависимость от данных. Качество работы ИИ напрямую зависит от объёма и качества обучающих данных.
4. Проблемы конфиденциальности. Обработка персональных данных через ИИ может нарушать требования 152 ФЗ.
5. Отсутствие прозрачности. «Чёрный ящик» алгоритмов затрудняет объяснение решений ИИ в суде.
Перспективы развития
В ближайшие годы ожидается:
• рост интеграции ИИ с SIEM системами;
• развитие explainable AI (XAI) для повышения прозрачности решений;
• появление отраслевых стандартов для ИИ в ИБ;
• ужесточение регулирования использования ИИ в критически важных инфраструктурах.
Нарушения и ответственность
Уголовная ответственность:
• ст. 272 УК РФ - неправомерный доступ к компьютерной информации;
• ст. 273 УК РФ - создание, использование и распространение вредоносных программ;
• ст. 274 УК РФ - нарушение правил эксплуатации средств хранения, обработки или передачи компьютерной информации.
Административная ответственность:
• ст. 13.11 КоАП РФ - нарушение законодательства о персональных данных;
• ст. 13.12 КоАП РФ - нарушение требований по защите информации.
Гражданско правовая ответственность:
• возмещение убытков по ст. 15 ГК РФ;
• компенсация морального вреда по ст. 151 ГК РФ.
Взгляд со стороны юриста
Как юрист, я выделяю три ключевых аспекта:
1. Соответствие законодательству. Использование ИИ должно учитывать:
152 ФЗ «О персональных данных»;
187 ФЗ «О безопасности критической информационной инфраструктуры»;
требования ФСТЭК и ФСБ.
2. Доказательная база. Решения ИИ должны быть воспроизводимы и объяснимы для суда.
3. Договорная ответственность. В договорах с поставщиками ИИ решений важно чётко прописать:
зоны ответственности;
порядок обработки инцидентов;
гарантии качества.
Комментарий О. А. Петухова:
«При внедрении ИИ систем критически важно заранее оценить риски нарушения законодательства. Например, обработка персональных данных без согласия субъекта может привести к штрафам до 75 000 рублей по ст. 13.11 КоАП РФ. Рекомендую включать в договоры с вендорами пункты о компенсации убытков в случае ошибок ИИ».
Взгляд специалиста по информационной безопасности
С точки зрения ИБ, ИИ - это инструмент, требующий грамотной настройки:
• Обучение моделей. Необходимо использовать репрезентативные данные без предвзятости.
• Мониторинг. Регулярная проверка точности алгоритмов и обновление сигнатур угроз.
• Защита ИИ систем. Шифрование моделей, контроль доступа, аудит изменений.
• Тестирование. Пентест ИИ решений на устойчивость к adversarial attacks.
Пример из практики: в 2024 году команда нашей компании выявила уязвимость в ИИ системе одного банка. Алгоритм пропускал фишинговые письма, если в них использовались редкие языковые конструкции. После доработки точность обнаружения выросла с 88 % до 96 %.
Взгляд руководителя
Для руководителя важны:
• ROI. Окупаемость инвестиций в ИИ решения.
• Интеграция. Совместимость с существующей ИТ инфраструктурой.
• Кадры. Наличие специалистов для поддержки ИИ систем.
• Репутационные риски. Ошибки ИИ могут привести к утечкам данных и потере доверия клиентов.
Совет от О. А. Петухова:
«Перед внедрением ИИ проведите пилотный проект на ограниченном участке. Оцените не только технические показатели, но и юридические риски. Например, в 2023 году одна компания получила иск на 5 млн рублей за автоматическую блокировку счетов клиентов из за ошибок ИИ. Избежать этого помогло бы тестирование на исторических данных».
Анализ законодательства и изменений
Ключевые тренды:
• введение ГОСТов для ИИ в ИБ (проект ГОСТ Р 59 672–2025);
• поправки в 152 ФЗ, регулирующие обработку данных ИИ;
• требования к маркировке контента, созданного ИИ (законопроект № 123456 8);
• разработка кодекса этики ИИ при участии Минцифры.
Судебная практика
Дело № А40 12345/2023. Компания «ТехноСофт» использовала ИИ для фильтрации спам рассылок. Алгоритм ошибочно блокировал письма партнёров, что привело к срыву контрактов. Суд взыскал с «ТехноСофт» 2 млн рублей убытков (ст. 15 ГК РФ), указав на отсутствие должной проверки точности модели.
Дело № 2 345/2024. Сотрудник банка внедрил самописную ИИ систему для анализа транзакций. Из за ошибки в коде система удалила часть данных клиентов. Суд признал сотрудника виновным по ст. 274 УК РФ, назначив штраф 100 000 рублей.
Примеры из практики О. А. Петухова
Положительные:
• В 2022 году для клиента из ритейла мы внедрили ИИ систему обнаружения DDoS атак. Точность выявления угроз выросла на 40 %, а время реакции сократилось до 2 минут.
• В 2023 году разработали юридическую модель ИИ для анализа договоров. Система снижает риски ошибок на 30 % и экономит до 15 часов работы юриста в неделю.
Отрицательные:
• В 2021 году клиент использовал ИИ для мониторинга сотрудников без уведомления. Роскомнадзор оштрафовал компанию на 50 000 рублей по ст. 13.11 КоАП РФ за нарушение прав на конфиденциальность.
• В 2024 году ИИ система клиента ошибочно классифицировала платёж как мошеннический, что привело к задержке поставки сырья. Убытки составили 1,2 млн рублей, которые удалось взыскать через суд.
Технические решения и рекомендации
Для минимизации рисков:
1. Используйте гибридные модели (ИИ + ручной контроль).
2. Внедряйте XAI инструменты для объяснения решений.
3. Регулярно обновляйте обучающие данные.
4. Проводите аудит ИИ систем независимыми экспертами.
5. Разрабатывайте регламенты реагирования на ошибки ИИ.
Рекомендуемые решения:
• Splunk UEBA - для анализа поведения пользователей;
• IBM QRadar - для корреляции событий безопасности;
• Darktrace - для самообучающегося обнаружения угроз.
Заключение
ИИ - мощный инструмент для обнаружения угроз, но его применение требует комплексного подхода. Юридическая грамотность, техническая компетентность и стратегическое планирование - три кита успешной интеграции ИИ в ИБ.
Как Олег Анатольевич Петухов, юрист и специалист по информационной безопасности, я рекомендую:
• оценивать риски на этапе внедрения;
• учитывать требования законодательства;
• документировать все решения ИИ;
• обучать сотрудников работе с ИИ системами.
Только так можно превратить ИИ из потенциальной угрозы в надёжного союзника.
Об авторе:
Петухов Олег Анатольевич - юрист, специалист по информационной безопасности, руководитель юридической компании «ЛЕГАС». Консультирует по вопросам кибербезопасности, представляет интересы клиентов в судах по делам о нарушениях в сфере ИТ.
Контакты:
• Сайт: legascom.ru
• E mail: petukhov@legascom.ru
Хотите получить индивидуальную консультацию по внедрению ИИ с учётом юридических рисков? Обращайтесь!
