Теневые утечки через ИИ: как рабочие запросы становятся угрозой безопасности
Автор: Петухов Олег Анатольевич, эксперт по информационной безопасности, руководитель юридической компании ЛЕГАС
Сайт: legascom.ru
Email: petukhov@legascom.ru
Искусственный интеллект стал привычным рабочим инструментом, но вместе с удобством он принёс новый тип рисков - теневые утечки данных. Это не кибератаки и не взлом: конфиденциальная информация покидает периметр компании по инициативе самих сотрудников, которые просто хотят быстрее решить задачу. В статье - как возникают такие утечки, почему классические методы защиты здесь почти не работают и какие меры реально помогают держать использование ИИ под контролем.
Как появляются теневые утечки
Чаще всего сотрудник не планирует ничего «сливать»: он загружает в ИИ отчёт, лог, черновик презентации или таблицу с правами доступа, чтобы быстро проверить текст, отформатировать документ или найти аномалии. Проблема в том, что далеко не всегда понятно, какие именно данные считаются чувствительными. К опасным категориям относятся:
персональные данные;
коммерческая информация (финансовые показатели, внутренняя аналитика);
данные ИТ‑инфраструктуры (схемы, логи, списки доступов, токены).
На практике это выглядит как рутина: «прогоню лог через ИИ, чтобы быстрее найти ошибку». Но даже отдельные фрагменты, отправленные в публичные модели, со временем складываются в подробную картину внутренней инфраструктуры компании: какие системы используются, какие версии ПО развёрнуты, где есть уязвимые участки.
Особую опасность представляют данные об учётных записях и правах доступа - логины, пароли, токены, структура ролей. Частичных сведений достаточно, чтобы упростить атаку, провести социальную инженерию или получить несанкционированный доступ.
Реальные риски: не только «потеря» данных
Теневые утечки опасны не тем, что файл «ушёл» один раз, а совокупным эффектом:
Накопление информации. Из множества небольших фрагментов формируется детальный профиль компании.
Участие в обучении моделей. Переданные данные могут сохраняться в публичных LLM и косвенно влиять на ответы другим пользователям, раскрывая внутренние процессы и решения.
Риск подмены сервисов. Злоумышленники создают фейковые ИИ‑инструменты и фишинговые ссылки: пользователь думает, что пользуется привычным сервисом, а данные уходят напрямую атакующим.
Примеры из практики показывают, что такие инциденты происходят даже у крупных игроков. Юридическая компания ЛЕГАС фиксирует, что чаще всего утечки случаются из‑за отсутствия инструкций: запрет на использование внешних ИИ появляется уже после того, как данные утекли.
Почему классическая ИБ не спасает
Традиционная модель безопасности строилась вокруг периметра: главное - не пустить злоумышленника внутрь. Но при работе с ИИ данные покидают периметр добровольно, без признаков атаки, и стандартные средства не видят в этом угрозы.
К дополнительным факторам риска относятся:
Неконтролируемые хранилища. В «файлопомойках» годами копятся черновики, выгрузки, старые отчёты, которые формально не помечены как конфиденциальные, но содержат чувствительные сведения.
Динамичный поток данных. Новые отчёты, временные выгрузки и промежуточные версии документов создаются быстрее, чем успевают классифицироваться и попадать под контроль систем безопасности.
Накопленные доступы. Права, выданные для разовых задач, часто не отзываются, и со временем у сотрудников скапливается избыточный доступ к данным.
В результате значительная часть информации оказывается вне реального контроля - именно в этой зоне и происходят теневые утечки.
Частично помочь могут DLP‑системы (контроль отправки через браузерные формы) и SWG‑решения, но они закрывают лишь отдельные каналы, не решая проблему системно.
Новая модель защиты: управляемое использование ИИ
Полностью отказаться от ИИ уже невозможно: он становится таким же базовым инструментом, как почта или облачные сервисы. Задача - сделать его использование контролируемым. Для этого достаточно реализовать пять практических шагов:
Инвентаризация данных. Нужно чётко понимать, какие данные есть в компании, где они хранятся и кто к ним имеет доступ.
Обезличивание и маскирование. Для анализа во внешних ИИ‑сервисах используйте данные, которые сохраняют структуру, но не содержат реальной конфиденциальной информации.
Принцип минимальных привилегий. Каждый сотрудник должен иметь доступ только к тем данным, которые необходимы для работы. Например, для бухгалтеров передачу данных наружу стоит максимально ограничить, а аналитики могут работать с обезличенными наборами.
Контроль каналов использования ИИ. Оптимальные варианты:
внутренние платформы или LLM‑прокси, через которые проходят все запросы к внешним моделям - они позволяют фильтровать данные и блокировать передачу чувствительной информации;
развёртывание моделей в собственной инфраструктуре компании - это даёт максимальный контроль над данными.
Data Governance. Комплексный подход, при котором бизнес, ИТ и ИБ совместно управляют данными: определяют, что можно передавать наружу, кто и для каких задач может использовать ИИ, как классифицировать и защищать информацию.
Такой подход не блокирует продуктивность, но делает использование ИИ предсказуемым и безопасным.
Вывод
ИИ будет всё глубже интегрироваться в бизнес-процессы и даже в саму работу службы ИБ (анализ угроз, поиск аномалий, обработка событий). Но его преимущества легко перечеркнуть одним критическим инцидентом, если не выстроить контроль. Управляемое использование ИИ - это не про запреты, а про понятные правила, правильные инструменты и совместную ответственность бизнеса, ИТ и безопасности. Внедрение LLM‑прокси, внутренних платформ и Data Governance позволяет сохранить продуктивность и при этом надёжно защитить корпоративные данные от теневых утечек.
