Технологические сдвиги на протяжении веков коренным образом меняли принципы государственного управления. Печатный станок способствовал распространению грамотности и становлению представительной власти, телеграф позволил эффективно управлять огромными территориями, а радио и телевидение сформировали условия для развития массовой демократии. В настоящее время мир находится на ранней стадии очередного масштабного перехода: искусственный интеллект становится основным интерфейсом, через который граждане формируют свои убеждения и участвуют в жизни общества. Без должного контроля этот процесс может ослабить государственные институты, однако при правильном подходе ИИ способен решить застарелые проблемы низкой гражданской активности и глубокой поляризации.
Три уровня трансформации гражданского общества
Исследователи выделяют три ключевых направления, в которых ИИ меняет привычную структуру демократического взаимодействия:
- Эпистемический уровень: Граждане все чаще полагаются на ИИ в вопросах определения истины и поиска доверенных источников. Алгоритмы поиска уже в значительной степени базируются на нейросетях. Ожидается, что следующее поколение ИИ-ассистентов будет самостоятельно синтезировать информацию и представлять ее как авторитетное мнение, фактически формируя взгляды людей на политиков и государственные программы.
- Уровень действий: Появление персональных ИИ-агентов изменит способы реализации гражданской активности. Такие системы смогут проводить исследования, составлять обращения в официальные органы и давать рекомендации по голосованию. ИИ начнет выступать посредником между индивидом и государственными институтами.
- Коллективный уровень: Массовое использование ИИ-агентов может привести к непредсказуемым результатам в масштабах всего общества. Даже если каждый отдельный помощник настроен на интересы своего владельца, их совокупное взаимодействие рискует превратить публичную сферу в набор изолированных «частных миров», что препятствует общественному диалогу.
Риски алгоритмической поляризации
Опыт работы социальных сетей показал, что алгоритмы, оптимизированные для удержания внимания, могут способствовать радикализации общества даже без явной политической повестки. Персональный агент, знающий страхи и предпочтения пользователя, может стать еще более мощным инструментом манипуляции, поскольку он воспринимается как доверенное лицо и защитник интересов конкретного человека. В обзоре отмечается, что современные институты не готовы к миру, где информация распространяется мгновенно, а реальность перестает быть общей для всех групп населения.
Пути к созданию устойчивой цифровой инфраструктуры
Для предотвращения негативных сценариев эксперты предлагают внедрить новые стандарты разработки ИИ-систем. На информационном уровне технологические компании должны гарантировать достоверность ответов моделей. Примечательно, что предварительные исследования на платформе X* (бывший Twitter*) показали: пользователи разных политических взглядов склонны доверять фактам, проверенным ИИ, больше, чем человеческим комментариям. Это открывает возможности для создания беспристрастных систем верификации данных.
На уровне взаимодействия необходимо обеспечить «честное представительство». ИИ-агент не должен иметь собственной скрытой повестки или ограничивать пользователя, скрывая от него альтернативные точки зрения. Наконец, государственным органам рекомендуется использовать ИИ-платформы для проведения общественных обсуждений, что поможет гражданам находить точки соприкосновения по сложным вопросам.
Технологический контекст и новые разработки
Параллельно с теоретическими разработками в области демократии, индустрия ИИ продолжает стремительно развиваться. В сфере высоких технологий отмечаются следующие важные тренды:
- Компания OpenAI работает над созданием системы «полностью автоматизированного исследователя», что должно вывести аналитические возможности ИИ на новый уровень.
- Разработчики из Niantic используют опыт популярных мобильных игр для обучения новых моделей мира, применяя более 30 миллиардов изображений городских достопримечательностей для достижения точности позиционирования до нескольких сантиметров.
- По данным индекса ИИ Стэнфордского университета за 2024 год, темпы развития технологий значительно опережают возможности общества по их адаптации и регулированию.
В условиях, когда боты все чаще имитируют человеческую активность, специалисты подчеркивают важность внедрения систем идентификации личности как для людей, так и для их цифровых представителей. Создание новой технологической и институциональной инфраструктуры является необходимым условием для сохранения подотчетности власти в цифровую эпоху.
* — деятельность компании запрещена на территории РФ
