От /
Безопасность

AI Exposure Gap — самый недооценённый риск безопасности, о котором ваш бизнес может даже не подозревать

17 ноября 2025
AI Exposure Gap

По мере того как искусственный интеллект и машинное обучение стремительно входят в корпоративные процессы, растёт не только производительность, но и новый класс рисков безопасности ИИ. Исследование Tenable показывает: 89% организаций уже используют или тестируют AI-нагрузки, но их кибербезопасность за этими темпами явно не поспевает.

Итог закономерен: возникает опасное явление, которое эксперты называют «AI Exposure Gap» — разрыв между тем, как компании используют ИИ, и тем, как они защищают данные, инфраструктуру и сами модели.

И этот разрыв уже даёт о себе знать: каждая третья компания (34%) сообщила о хотя бы одном инциденте, связанном с AI-системами.

ИИ сам по себе не опасен — опасны пробелы в безопасности компаний

Здесь исследование выводит важный тезис.

Большинство атак, связанных с ИИ, происходят не из-за сложных атак на модели, а из-за базовых уязвимостей в самих компаниях.

То есть злоумышленники не взламывают сам искусственный интеллект — они используют куда более приземлённые вещи:

  • ошибки конфигураций,
  • слабые пароли и доступы,
  • незашифрованные данные,
  • недостаточную сегментацию,
  • отсутствующие политики безопасности,
  • ошибки DevOps / MLOps процессов.

По данным Tenable, картина по инцидентам выглядит так.

21% инцидентов вызваны эксплуатацией софт-уязвимостей

18% пришлись на инсайдерские угрозы

19% — на ошибки в самих ИИ-моделях

Цифры подтверждают вывод: источник угроз — инфраструктура, а не алгоритмы.

Тревожный факт: только 22% компаний шифруют данные ИИ

Самый неприятный вывод исследования звучит так.

Лишь одна из пяти компаний шифрует данные, используемые в AI-системах.

Проще говоря, 78% организаций фактически оставляют без должной защиты:

  • обучающие датасеты,
  • промпты,
  • ответы моделей,
  • внутренние корпоративные документы,
  • чувствительные данные о клиентах,
  • исходный код моделей

— всё это становится доступным злоумышленникам при любом взломе или утечке.

А поскольку модели часто обучаются на производственных данных, масштаб потенциального ущерба получается огромным.

Эксперты уже называют это криптографическим кризисом ранней эпохи ИИ.

Почему возник «AI Exposure Gap»: мнение экспертов

Лиат Хайюн, VP Product & Research в Tenable, комментирует это так:

«Главные риски — это знакомые уязвимости: идентификация, ошибки конфигурации, технические дыры. Это не фантастические сценарии о восстании ИИ, а обычные проблемы безопасности, которые мы не успеваем закрывать».

У этого разрыва есть несколько конкретных причин.

AI внедряется быстрее, чем успевает подтягиваться безопасность

Команды Data Science и ML часто двигаются «быстрее рынка», в обход процедур кибербезопасности.

Разрозненная инфраструктура

Данные и модели живут одновременно в:

  • облаках,
  • edge-средах,
  • локальных серверах,
  • MLOps-конвейерах.

Результат предсказуем: низкая видимость и отсутствие единого контроля.

Реактивная, а не проактивная защита

Компании тушат пожары вместо того, чтобы строить защиту заранее.

Делегирование ответственности регуляторам

51% организаций просто ориентируются на NIST AI RMF или EU AI Act,
делая минимум, необходимый для формального соответствия.

«AI Exposure Gap» становится критичным для крупных предприятий

Экспертный анализ показывает простую закономерность: чем крупнее организация, чем больше данных она использует для моделей и чем активнее внедряет генеративный ИИ, тем сильнее растёт разрыв между реальными рисками и существующими мерами защиты.

Это выражается в нескольких ключевых тенденциях.

Тенденция 1: экспоненциальный рост внутренних угроз

Инсайдеры составляют 18% AI-инцидентов. Причины обычно одни и те же:

  • неконтролируемый доступ к моделям,
  • возможность выгрузки чувствительных данных,
  • отсутствие журналирования запросов,
  • незащищённые API.

Тенденция 2: рост числа утечек из-за AI-кода

Около 20% всех утечек, по данным TechRadar, происходят из-за кода, написанного ИИ. Чаще всего это:

  • уязвимости из-за небезопасных шаблонов кода,
  • отсутствие проверки безопасности,
  • слепое доверие к генеративным инструментам.

Тенденция 3: компании не тестируют безопасность моделей

Только 26% организаций проводят:

  • пентест моделей,
  • adversarial testing,
  • stress-тестирование,
  • проверку устойчивости к prompt injection.

Остальные запускают модели «как есть», надеясь на добросовестность вендоров.

Как компаниям закрыть «AI Exposure Gap»: рекомендации по кибербезопасности

Tenable выделяет ряд приоритетов, мы дополнили их с учётом собственной практики MLOps-безопасности.

1. Строить AI-безопасность на фундаменте Identity и Access Governance

Здесь нужны:

  • строгая сегментация данных,
  • ограничение доступа по принципу least privilege,
  • многофакторная аутентификация для всех MLOps процессов,
  • контроль сервисных аккаунтов моделей.

2. Классифицировать и шифровать данные, связанные с ИИ

Не только хранилища, но и:

  • датасеты для обучения,
  • результаты inference,
  • логи запросов,
  • промпты пользователей.

Для этого пригодятся:

  • TDE,
  • HSM,
  • KMS,
  • атрибутивное шифрование.

3. Регулярно проводить adversarial и red-team тестирование моделей

Цель — выявить:

  • prompt injection,
  • data poisoning,
  • jailbreak-атаки,
  • model extraction,
  • уязвимости в API.

4. Мониторить конфигурации и MLOps-инфраструктуру

Выявляйте:

  • открытые порты,
  • ошибочные роли IAM,
  • неправильные настройки хранения,
  • слабые политики доступа к S3 / buckets / datasets,
  • устаревшие бэкенды inference.

5. Усиливать защиту моделей на ранних этапах разработки (shift-left AI security)

Одновременно стоит:

  • автоматизировать проверку безопасности кода (SAST, SCA),
  • внедрять MLOps-технологии,
  • внедрять CI/CD-проверки уязвимостей моделей,
  • использовать защищённые каналы передачи данных.

6. Не полагаться только на compliance как единственную стратегию

Соответствие стандартам — это основа, но не потолок защиты.

Минимальный набор документов никогда не заменит:

  • комплексную архитектуру безопасности,
  • динамическое тестирование,
  • ручные проверки,
  • анализ моделей и данных.

Вывод: «AI Exposure Gap» — новый класс корпоративных рисков безопасности ИИ

ИИ сам по себе не источник угроз.
Опасность в том, что компании внедряют его быстрее, чем успевают строить защиту.

Если не закрыть этот разрыв, бизнес получает целый набор рисков безопасности ИИ:

  • повышенный риск утечек;
  • инциденты со стороны внутренних сотрудников;
  • эксплуатацию уязвимостей, связанных с моделями;
  • репутационные потери;
  • юридические последствия;
  • длинные цепочки атак через AI-инфраструктуру.

Компании, которые сейчас инвестируют в AI-безопасность, получают серьёзное конкурентное преимущество: прозрачность данных, доверие клиентов и устойчивость к новым угрозам. На практике это чаще всего означает совместную работу с командами кибербезопасности, которые умеют закрывать не только классические уязвимости инфраструктуры, но и специфику MLOps.

Прокрутить вверх