Уязвимости ИИ: что нужно знать топ-менеджменту
По данным исследования Ernst & Young (EY), около половины организаций уже столкнулись с негативными последствиями уязвимостей ИИ в собственных системах.
При этом лишь 14 % генеральных директоров уверены, что их ИИ-системы надёжно защищают конфиденциальные данные.
А компании в среднем держат на вооружении 47 различных средств киберзащиты, и это набор, который на практике превращается в фрагментированную «броню», управлять которой трудно.
Для компаний с высокой степенью цифровизации — в нефтегазовой, инженерной и энергетической сфере — уязвимости ИИ становятся стратегическим риском, а не абстрактной технической проблемой.
Ключевые показатели и тенденции
Ниже собраны основные цифры из отчёта EY и смежные данные, которые дополняют картину.
| Показатель | Значение | Комментарий |
|---|---|---|
| Доля организаций, пострадавших от уязвимостей ИИ | ~50 % | Оценка EY. |
| CEOs, доверяющие безопасности ИИ-систем | 14 % | Критически низкий уровень уверенности. |
| Среднее число используемых средств безопасности | 47 | Высокая фрагментация защити. |
| Рост фишинга с голосовыми атаками (vishing) | +442 % во 2-й половине 2024 | По данным CrowdStrike, цитируемым в отчёте EY. |
| Среднее время «прорыва» (breakout time) после компрометации | ~ 48 мин (2024) → ~ 18 мин (средина 2025) | Значительное ускорение атак. |
Ещё несколько цифр, которые стоит держать в уме:
- 68 % организаций позволяют сотрудникам разрабатывать или запускать ИИ-агентов без утверждения на высоком уровне.
- 60 % организаций имеют формальные руководства по использованию ИИ-агентов.
Почему уязвимости ИИ особенно важны для вашего бизнеса
Для компаний из нефтегазовой отрасли, инженерных проектов, M&A и цифровой трансформации особого внимания заслуживают следующие моменты.
- Высокая привлекательность целей: компании, работающие с критическими активами (добыча, переработка, цифровые решения) представляют особенно интересную мишень для атак на ИИ-инструменты.
- Расширение поверхности атаки: переход на облачные платформы, IoT/IIoT, цифровое управление (типичная картина для digital oilfield) увеличивает возможности для злоупотреблений.
- Интеграции и M&A: при поглощениях и слияниях часто возникают «тёмные зоны» безопасности — новые ИИ-инструменты разворачивают без достаточной проверки.
- Операционные и репутационные риски: при успешной атаке воздействие на бизнес выходит далеко за рамки ransom-запроса — сбои, разрыв цепочек поставок, раскрытие данных, регуляторные последствия.
- Управленческая перспектива: угрозы развиваются быстро, поэтому защита ИИ-среды — это уже не только задача IT-подразделения, а стратегическое направление для C-suite и совета директоров.
Практическая рамка для повышения устойчивости
1. Укрепление и профилактика
- Внедрение Zero Trust-модели: минимум доверия по умолчанию, любое действие проверяется отдельно.
- Защита данных, которые используются при тренировке ИИ-моделей: контроль за тем, что попадает в датасеты, и за тем, чтобы модели сами не становились источником утечек.
- Аудит поставщиков ИИ-решений и цепочек поставок: безопасность встраивается на ранних стадиях разработки инструмента, а не добавляется постфактум.
- Централизованное управление средствами защиты и снижение фрагментации — тех самых 47 инструментов.
2. Обнаружение и быстрая реакция
- Поведенческая аналитика (Behavioural Analytics) и ИИ-инструменты для обнаружения аномалий.
- Регулярные учения и сценарии «атака на ИИ» — тем более что breakout time, как видно из таблицы выше, сократился с часа до 18 минут.
- План инцидент-реагирования, который учитывает ИИ-угрозы и регулярно тестируется на практике.
3. Управление и корпоративное руководство
- Ответственность за ИИ-безопасность закрепляется на уровне руководства, а не размывается между отделами.
- Политика и контроль над ИИ-агентами: напомним, 68 % организаций пока позволяют сотрудникам запускать ИИ-агентов без утверждения.
- ИИ-риски встраиваются в общий риск-менеджмент компании, с прозрачной отчётностью для совета директоров и инвесторов.
Таблица: ключевые рекомендации от EY
| Этап | Рекомендации |
|---|---|
| Разработка и внедрение ИИ | Встроить безопасность на всех этапах жизненного цикла ИИ-решения. |
| Поставщики и цепочка | Гарантировать целостность и безопасность данных, моделей и поставщиков ИИ-инструментов. |
| Контроль доступа и использование ИИ | Утверждение политики по ИИ-агентам, ограничение несанкционированного использования. |
| Обнаружение и реагирование | Пересмотреть программы обнаружения угроз с учётом повышения скорости атак («breakout time» до 18 мин). |
| Приоритеты инвестиций | Сфокусироваться на «очевидной ценности» — т.е. тех областях, где ИИ-риск наиболее ощутим и вероятен. |
Значительная часть этих рекомендаций упирается в квалифицированный внешний взгляд на инфраструктуру: регулярный пентест ИИ-систем и связанных с ними сервисов помогает найти именно те слабые места, которые внутренняя команда привыкла не замечать.
Заключение
Искусственный интеллект открывает бизнесу новые возможности, но одновременно создаёт мощные точки уязвимости. Отчёт EY показывает это без прикрас: уязвимости ИИ-систем уже затронули около половины организаций, а на уровне CEO уверенности в защите данных почти нет.
Для компаний с критическими операциями, высокой цифровизацией и активным внедрением ИИ-решений — в том числе в нефтегазовой сфере — это означает одно: время для реакции наступило сейчас. Рабочая стратегия безопасности ИИ должна охватывать не только технологии, но и людей, процессы и корпоративное управление.