Искусственный интеллект долгое время считался «обоюдоострым мечом», который одновременно расширяет возможности и злоумышленников, и защитников. Однако эксперты отмечают появление так называемого «третьего лезвия»: по мере внедрения ИИ в бизнес-процессы он сам превращается в новую поверхность атаки, которую киберпреступники стремятся использовать для взлома организаций.
Новые горизонты атак с использованием ИИ
Несмотря на огромный потенциал для инноваций, ИИ активно осваивается хакерскими группировками для проведения более сложных операций. В обзоре отмечается, что злоумышленники используют технологии для автоматизации и масштабирования своей деятельности:
- Группировка Storm-0817 применяет ИИ для разработки вредоносного ПО и автоматического сбора данных из социальных сетей.
- Сообщество Black Basta использует нейросети для создания фишинговых писем на разных языках, что позволяет им значительно расширить географию атак.
- Компания OpenAI недавно пресекла десятки вредоносных операций, в которых ее модели использовались для создания вирусов и распространения дезинформации.
На текущем этапе большинство хакеров используют ИИ как вспомогательный инструмент, однако эксперты предупреждают о перспективе полной автоматизации кибератак. В конце прошлого года был зафиксирован случай кибершпионажа, управляемого ИИ, когда автономный инструмент Claude Code от Anthropic был использован для разведки и попыток проникновения в глобальные системы. Ожидается, что число подобных инцидентов будет расти по мере совершенствования навыков злоумышленников.
От инструмента к мишени: ИИ как поверхность атаки
Смещение акцентов в киберугрозах означает, что ИИ перестает быть просто оружием или щитом. Теперь это «рукоятка», с помощью которой атакующие могут направить ИТ-инфраструктуру компании против нее самой. Это становится возможным через эксплуатацию плагинов, связывающих ИИ с корпоративными данными, или путем перехвата управления ИИ-ассистентами.
В качестве примеров в отчете приводятся следующие инциденты:
- Компрометация модуля ИИ Drift в 2025 году, приведшая к краже данных из Salesforce у сотен организаций, включая поставщиков услуг безопасности.
- Кампания EchoLeak против Microsoft 365 Copilot, показавшая, как специально составленное электронное письмо может передать вредоносные инструкции встроенному ассистенту для скрытой выгрузки конфиденциальной информации.
- Проблема «теневого ИИ» (Shadow AI), когда сотрудники используют несанкционированные инструменты, невольно передавая корпоративные секреты в публичные модели.
Нейтральность технологий: защита против нападения
Специалисты подчеркивают, что организациям не стоит отказываться от ИИ только из-за существующих рисков. Технология дает значительные преимущества, поэтому правильным решением является не запрет, а обеспечение надлежащей защиты ИИ-систем. Рекомендуется использовать подход, ориентированный на человека, где ИИ поддерживает принятие решений, но остается под контролем специалистов.
Те же алгоритмы, которые применяются для кибератак, могут эффективно использоваться в системах обороны:
- ИИ ускоряет обнаружение угроз и реагирование на инциденты, автоматизируя рутинные задачи.
- Машинное обучение помогает выявлять подозрительные паттерны поведения (например, периодическую передачу сигналов на серверы управления), которые могут пропустить традиционные средства защиты.
- Автоматизация помогает в документировании событий безопасности и анализе подозрительных файлов и писем в режиме реального времени.
Миф об «универсальном решении»
Риски и выгоды от использования ИИ во многом зависят от целей пользователя. Технология может быть скомпрометирована или «отравлена», поэтому ее нельзя считать универсальным решением всех проблем безопасности. Эффективность защиты будет зависеть не от маркетингового шума вокруг ИИ, а от того, насколько успешно компании смогут обезопасить сами ИИ-инструменты до того, как они будут обращены против них.
