Специалисты подразделения Google Threat Intelligence Group (GTIG) зафиксировали попытку массовой эксплуатации уязвимости нулевого дня, созданной при помощи искусственного интеллекта. По данным экспертов, злоумышленники планировали использовать этот инструмент для обхода двухфакторной аутентификации (2FA) в популярной платформе с открытым исходным кодом для веб-администрирования.
Признаки использования нейросетей в коде
Аналитики обнаружили в Python-скрипте эксплойта — программы для проведения атаки — характерные следы работы языковых моделей. Ключевым доказательством стал «галлюцинированный» показатель CVSS (стандартная шкала оценки серьезности уязвимостей), который не соответствовал реальности, но выглядел правдоподобно. Кроме того, структура кода и его форматирование были чрезмерно аккуратными и «учебными», что типично для данных, на которых обучаются нейросети.
В отчете отмечается, что уязвимость затрагивала высокоуровневую логику системы, где разработчик заложил ошибочное предположение о доверии в механизме аутентификации. Исследователи подчеркивают, что хотя ИИ помог в написании кода, собственная модель Google Gemini в данном инциденте не применялась. Тем не менее, в индустрии растет обеспокоенность возможностями моделей вроде Mythos от Anthropic, а также недавними случаями обнаружения уязвимостей в ядре Linux при содействии ИИ.
Методы хакеров и новые векторы атак
В ходе исследования были выявлены специфические тактики, которые киберпреступники применяют для обхода ограничений безопасности ИИ-сервисов:
- Применение ролевых сценариев или «джейлбрейка через персону», когда нейросеть заставляют имитировать действия эксперта по безопасности для генерации вредоносного кода.
- Загрузка целых репозиториев данных об известных уязвимостях в нейросети для автоматизации поиска слабых мест.
- Использование инструмента OpenClaw для доработки сгенерированной нагрузки в контролируемой среде с целью повышения надежности эксплойта перед его развертыванием.
В обзоре отмечается, что ИИ становится не только инструментом нападения, но и новой целью. Злоумышленники всё чаще атакуют интегрированные компоненты нейросетей, такие как автономные навыки и сторонние коннекторы данных, через которые системы получают доступ к конфиденциальной информации.
