Сотрудники используют ChatGPT, Claude и другие ИИ-инструменты для работы, не спрашивая разрешения у IT-отдела. Это создаёт риски утечки корпоративных данных, нарушения compliance-требований и кибератак. Разбираемся, как бизнесу выявить масштабы проблемы и выстроить защиту.

Что такое теневой ИИ и почему он опасен для бизнеса

Теневой ИИ — это использование сотрудниками искусственного интеллекта без согласования с компанией. Маркетолог загружает базу клиентов в ChatGPT для анализа, разработчик вставляет код в GitHub Copilot, юрист проверяет договор через Claude. Инструменты помогают работать быстрее, но данные уходят на сторонние серверы без контроля службы безопасности.

Главная опасность — потеря контроля над информацией. Компания не знает, какие данные покидают периметр, где они хранятся и кто к ним получает доступ. Бесплатные версии ИИ-сервисов используют загруженные данные для обучения моделей, что означает: конфиденциальная информация может появиться в ответах другим пользователям.

Для регулируемых отраслей это прямое нарушение требований. Финансовые организации обязаны соблюдать стандарты защиты персональных данных, медицинские — законы о врачебной тайне. Использование неодобренных ИИ-инструментов создаёт юридические риски и угрозу репутации.

Как сотрудники используют ИИ в обход правил: реальные сценарии

Типичный сценарий: менеджер по продажам копирует переписку с клиентом в ChatGPT, чтобы составить краткое резюме для руководства. За минуту получает результат вместо получаса ручной работы. Проблема в том, что переписка содержит условия сделки, бюджеты и контакты — всё это теперь на серверах OpenAI.

Разработчики используют ИИ-ассистенты для написания кода. GitHub Copilot, Tabnine, Codeium ускоряют работу, но код компании попадает в обучающие датасеты. Если в коде есть API-ключи, внутренние алгоритмы или архитектурные решения — конкуренты могут получить к ним доступ через похожие запросы к ИИ.

HR-специалисты загружают резюме кандидатов для автоматического отбора. Маркетологи генерируют контент на основе внутренней аналитики. Бухгалтеры проверяют финансовые отчёты. В каждом случае конфиденциальные данные покидают защищённую инфраструктуру компании.

Почему сотрудники обходят правила

Основная причина — отсутствие удобных корпоративных альтернатив. Если компания запрещает публичные ИИ-сервисы, но не предлагает своих инструментов, сотрудники всё равно будут использовать то, что помогает работать эффективнее. Запрет без альтернативы не работает.

Вторая причина — непонимание рисков. Многие не осознают, что данные из бесплатного ChatGPT могут использоваться для обучения модели. Им кажется, что переписка с ИИ такая же приватная, как поиск в Google. Компании не объясняют разницу между личным и корпоративным использованием ИИ.

Риски утечки данных и кибератак через теневой ИИ

Утечка через обучающие данные — не единственная угроза. ИИ-сервисы могут взламывать, как любые онлайн-платформы. В последние пару лет участились случаи компрометации учётных записей в популярных сервисах. Если сотрудник использует рабочую почту для регистрации в ChatGPT и слабый пароль, взломанный аккаунт открывает доступ к истории всех запросов с корпоративными данными.

Фишинг через ИИ становится изощрённее. Злоумышленники создают поддельные версии популярных ИИ-сервисов, которые выглядят идентично оригиналам. Сотрудник переходит по ссылке из поискового рекламного объявления, вводит данные — и они попадают к мошенникам вместе со всей информацией, которую он загружает для обработки.

Промпт-инъекции — новый вид атак, специфичный для ИИ. Злоумышленник может внедрить вредоносные инструкции в данные, которые сотрудник загружает в ИИ. Например, в PDF-файл, который менеджер просит ИИ проанализировать. Скрытый текст заставляет модель выполнить команды атакующего: извлечь данные из других документов или сгенерировать вредоносный код.

Compliance-риски и штрафы

Компании, работающие с персональными данными, обязаны документировать, где и как эти данные обрабатываются. Использование теневого ИИ нарушает эти требования. Регуляторы могут расценить это как неконтролируемую передачу данных третьим лицам.

Для международных компаний проблема усугубляется требованиями о локализации данных. Если европейский офис загружает данные клиентов в американский ИИ-сервис, это может нарушать правила трансграничной передачи информации.

Как бизнесу выявить и оценить масштабы теневого ИИ

Первый шаг — анализ сетевого трафика. IT-отдел может проверить логи прокси-серверов и файрволов на предмет обращений к доменам популярных ИИ-сервисов: openai.com, claude.ai, gemini.google.com, перplexity.ai и других. Частые запросы с рабочих устройств указывают на активное использование.

Анонимный опрос сотрудников даёт более полную картину. Люди честнее отвечают, когда знают, что ответы не персонализированы. Спросите, какие ИИ-инструменты они используют, для каких задач и какие данные загружают. Это поможет понять не только масштаб, но и мотивацию.

Проверка корпоративных устройств на установленные приложения. Многие ИИ-сервисы предлагают десктопные клиенты и расширения для браузеров. Инвентаризация софта покажет, что установлено без согласования с IT.

Чек-лист для аудита теневого ИИ

  • Проанализировать сетевой трафик за последний месяц на предмет обращений к ИИ-сервисам
  • Провести анонимный опрос сотрудников о используемых инструментах
  • Проверить установленное ПО и расширения браузеров на корпоративных устройствах
  • Изучить запросы в службу поддержки о доступе к заблокированным сервисам
  • Проверить корпоративные кредитные карты на подписки на ИИ-инструменты
  • Опросить руководителей отделов о том, какие задачи сотрудники решают с помощью ИИ

После оценки масштабов важно определить критичность. Не все случаи использования ИИ одинаково опасны. Генерация идей для мозгового штурма — низкий риск. Загрузка финансовых отчётов или кода — высокий. Классифицируйте сценарии по уровню угрозы.

Разработка корпоративной политики использования ИИ: пошаговое руководство

Политика использования ИИ должна быть конкретной, а не декларативной. Недостаточно написать «запрещено использовать неодобренные ИИ-инструменты». Нужно объяснить, почему это опасно, какие инструменты разрешены и как их получить.

Шаг 1: Определите категории данных. Разделите информацию на публичную, внутреннюю, конфиденциальную и строго конфиденциальную. Для каждой категории установите правила: что можно загружать в ИИ, а что нельзя ни при каких условиях. Публичные маркетинговые материалы — можно, клиентские базы — нельзя.

Шаг 2: Составьте список одобренных инструментов. Выберите ИИ-сервисы с корпоративными тарифами, которые гарантируют, что данные не используются для обучения моделей. OpenAI, Anthropic, Google предлагают enterprise-версии с повышенной безопасностью. Договоритесь о корпоративных лицензиях и предоставьте доступ сотрудникам.

Шаг 3: Создайте процесс согласования новых инструментов. Сотрудники будут находить новые полезные ИИ-сервисы. Вместо жёсткого запрета создайте процедуру оценки: заявка, проверка службой безопасности, решение в течение недели. Это снижает соблазн использовать инструменты тайно.

Шаг 4: Обучите сотрудников. Проведите тренинги о рисках теневого ИИ с реальными примерами утечек. Покажите, как правильно использовать одобренные инструменты. Объясните, что политика создана не для ограничения, а для защиты как компании, так и самих сотрудников.

Пример регламента использования ИИ

Разрешено: использовать корпоративные аккаунты ChatGPT Enterprise для генерации текстов, анализа публичных данных, мозговых штормов. Загружать только обезличенные данные и публичную информацию.

Запрещено: загружать персональные данные клиентов, финансовые отчёты, исходный код, внутренние стратегические документы в любые ИИ-сервисы. Использовать личные аккаунты в публичных ИИ для рабочих задач. Устанавливать неодобренные ИИ-расширения на корпоративные устройства.

Процедура согласования: если нужен инструмент, которого нет в списке одобренных, заполните форму запроса с описанием задачи и типа данных. Служба безопасности проверит сервис в течение 5 рабочих дней.

Технические решения для контроля и защиты данных при работе с ИИ

Технологии DLP (Data Loss Prevention) помогают контролировать, какие данные покидают корпоративную сеть. Современные DLP-системы умеют распознавать попытки загрузки конфиденциальной информации в ИИ-сервисы и блокировать их. Можно настроить правила: блокировать передачу номеров карт, паспортных данных, кода с определёнными паттернами.

CASB (Cloud Access Security Broker) — прокси между пользователями и облачными сервисами. CASB видит весь трафик к ИИ-платформам, может применять политики безопасности: разрешать доступ только к одобренным сервисам, логировать все запросы, блокировать загрузку файлов определённых типов.

Корпоративные ИИ-шлюзы — новый класс решений. Это единая точка доступа ко всем ИИ-сервисам с централизованным контролем. Сотрудник отправляет запрос через шлюз, который проверяет данные на конфиденциальность, логирует обращение и только потом передаёт в ИИ. Если в запросе обнаружена чувствительная информация, шлюз либо блокирует его, либо автоматически обезличивает данные.

Развёртывание локальных ИИ-моделей

Для критичных задач компании разворачивают собственные ИИ-модели внутри корпоративной инфраструктуры. Открытые модели вроде Llama, Mistral можно установить на собственных серверах. Данные не покидают периметр, компания сохраняет полный контроль.

Недостаток — ресурсоёмкость. Для запуска производительной модели нужны мощные GPU-серверы и команда для настройки и поддержки. Это оправдано для крупных компаний с высокими требованиями к безопасности данных, но избыточно для малого бизнеса.

Гибридный подход: публичные ИИ для неконфиденциальных задач, локальные модели для работы с чувствительными данными. Это баланс между удобством и безопасностью.

Защита от теневого ИИ — это не только технологии, но и культура. Сотрудники должны понимать риски и иметь удобные легальные инструменты. Запреты без альтернатив приводят к тому, что люди находят обходные пути. Прозрачная политика, обучение и доступ к безопасным ИИ-сервисам решают проблему эффективнее, чем тотальный контроль.

Кто это написал

Мы в Perfinn разрабатываем сайты и не только: интернет-магазины, корпоративные порталы, интеграции с 1С и 1С-Битрикс, автоматизацию бизнес-процессов и внедрение ИИ в рабочие сценарии.

Расскажите задачу — предложим решение и оценим сроки: perfinn.ru