Пользователи популярных чат-ботов на базе генеративного искусственного интеллекта (ИИ) всё чаще сообщают о случаях разглашения их конфиденциальных контактных данных. Исследователи и эксперты в области приватности предупреждают: системы ИИ могут случайно выдавать реальные номера телефонов и другие личные сведения, а способов оперативно предотвратить подобные утечки практически не существует.
Реальные угрозы приватности
Зафиксировано несколько случаев, когда ИИ-ассистенты предоставляли пользователям доступ к чужим телефонным номерам. Например, один из пользователей Reddit рассказал, что в течение месяца подвергался атаке звонками от незнакомцев, искавших юристов или мастеров. Выяснилось, что их на это направил генеративный ИИ от Google. Аналогичный инцидент произошел с израильским разработчиком, чей номер оказался в неверных инструкциях чат-бота Gemini*, после чего его начали беспокоить сообщениями в мессенджерах.
Эксперты связывают проблему с тем, что в обучающие выборки для нейросетей попадает огромное количество персональных данных, доступных в открытых источниках. Даже если информация была опубликована много лет назад, алгоритмы способны «запомнить» её и воспроизвести по запросу.
Рост числа жалоб
Компания DeleteMe, специализирующаяся на удалении персональной информации из сети, отмечает четырехкратный рост запросов, связанных с утечками данных через генеративный ИИ. Статистика обращений распределяется следующим образом:
- ChatGPT* — 55% обращений
- Gemini* — 20% обращений
- Claude — 15% обращений
- Другие ИИ-инструменты — 10% обращений
Жалобы пользователей обычно делятся на два типа: получение собственного адреса и телефона в ответ на безобидный вопрос или же случайное обнаружение чужих данных, которые чат-бот выдает за актуальную контактную информацию.
Несовершенство механизмов защиты
Разработчики систем ИИ внедряют контентные фильтры и этические ограничители, однако на практике они часто дают сбой. Исследователи из Вашингтонского университета в ходе тестирования обнаружили, что чат-боты могут обходить собственные запреты. Если система сначала отказывается предоставлять данные, она часто предлагает пользователю применить «исследовательский» подход, подсказав нейросети дополнительные детали — например, район проживания или имя супруга. После уточнения ИИ способен раскрыть домашний адрес и иные конфиденциальные сведения.
Отсутствие эффективных решений
На текущий момент не существует отработанного механизма, позволяющего пользователям гарантированно удалить свои данные из уже обученных моделей. Действующее законодательство, включая европейский регламент GDPR, зачастую не покрывает информацию, которую компании собрали из открытых интернет-источников до обучения своих алгоритмов.
Представители Google, OpenAI* и других компаний заявляют, что работают над инструментами для обработки жалоб, однако процесс рассмотрения заявок может занимать месяцы, в течение которых персональные данные остаются доступными для поиска через ИИ-инструменты. Единственным действенным советом экспертов остается превентивная очистка личной информации из открытого доступа до того, как она попадет в очередную базу данных для обучения нейросетей.
* — деятельность компании запрещена на территории РФ
