Разработчики открытого проекта NanoClaw и компания JFrog, специализирующаяся на управлении цепочками поставок программного обеспечения, объявили о стратегическом партнерстве. Совместная интеграция нацелена на защиту автономных агентов NanoClaw от внедрения вредоносного кода, что становится критически важным в условиях роста популярности ИИ-систем, способных самостоятельно устанавливать дополнительные компоненты.
Безопасность автономных систем
Автономные агенты часто выполняют фоновые установки пакетов для расширения своих функций, зачастую оставаясь вне поля зрения операторов. По словам представителей JFrog, такие системы совершают действия, которые невозможно полностью контролировать или предсказать, что создает новые векторы атак на цепочки поставок программного обеспечения.
Интеграция с JFrog позволяет принудительно направлять запросы агентов NanoClaw к проверенным реестрам программного обеспечения. Это гарантирует, что ИИ-помощники могут загружать только безопасные и протестированные зависимости.
- Защита от загрузки вредоносных библиотек через блокировку подозрительных запросов.
- Автоматическая коррекция: агент получает уведомление об уязвимости и перенаправляется на безопасную версию пакета.
- Прозрачность для корпоративного сектора: возможность отслеживать, какие именно пакеты и навыки используют агенты.
- Изоляция в контейнерах Docker для минимизации рисков при запуске стороннего ПО.
Двухуровневый доступ для пользователей
Новое решение доступно в двух форматах, чтобы обеспечить безопасность как отдельных разработчиков, так и крупных корпораций:
- Для открытого сообщества: интеграция предоставляется бесплатно. Это позволяет пользователям безопасно загружать инструменты и навыки, предварительно проходящие проверку на наличие вредоносного кода.
- Для предприятий: компании могут направлять запросы своих агентов через собственные лицензионные среды JFrog. Это обеспечивает соблюдение внутренних политик безопасности, лицензионных требований и стандартов управления доступом.
Данная инициатива дополняет предыдущие шаги NanoCo AI, включая внедрение диалоговых окон с запросами разрешений и расширение партнерства с Vercel и Docker. Эксперты отрасли отмечают, что текущий подход — создание среды, где агент физически ограничен в возможности загрузки опасного кода — является более надежным методом борьбы с уязвимостями нулевого дня, чем попытки обучения ИИ распознавать любые угрозы.
* — деятельность компании Meta*, а также принадлежащих ей социальных сетей Facebook* и Instagram* запрещена на территории РФ
