В последние дни специалисты и обозреватели погрузились в изучение новейшей разработки Google – панели управления, интегрированной с искусственным интеллектом. Эта система собирает информацию из всех приложений Google пользователя и на основе этих данных формирует ежедневные «истории», призванные «связать вас с тем, что имеет значение». Однако опыт взаимодействия с этой системой, по мнению многих, заставил задуматься о нежелательности такого будущего.
Приложение под названием Dreambeans было запущено Google в прошлую среду в качестве эксперимента. Некоторым обозревателям была предоставлена возможность получить немедленный доступ, минуя стандартный список ожидания. Использование приложения оказалось поучительным, но, возможно, не в том ключе, в каком это предполагала Google.
Google Dreambeans и новый этап развития ИИ
Во многих отношениях Dreambeans воспринимается как квинтэссенция всего, к чему стремится Google – и в целом ИИ – на протяжении последних нескольких лет.
С согласия пользователя приложение получает доступ к данным о его текущей активности из Google Workspace (включая такие сервисы, как Gmail, Google Календарь и Google Диск), а также из Google Поиска, Google Фото и YouTube. Это позволяет создавать постоянно обновляющийся профиль жизни и интересов пользователя. Система анализирует и обрабатывает практически всё: с кем ведётся переписка, какие события запланированы, о чём пишутся или сохраняются файлы, какие темы ищутся, какие видео просматриваются, а также активности, в которых фигурирует пользователь, его друзья, семья и знакомые на фотографиях (включая их внешний вид). Все эти данные используются для персонализированной ленты, которая обновляется несколько раз в день.
На первый взгляд это напоминает Google Now – интеллектуальную функцию, которая была интегрирована в Android около 2012 года и отличалась способностью упреждающего информирования. Однако на практике Dreambeans работает совершенно иначе. Если Google Now казался почти магическим в своей способности предвосхищать потребности пользователя – предлагая, например, информацию о статусе рейсов на основе маршрутов из электронной почты или поисковых запросов, предупреждения о трафике на основе типичных маршрутов или встреч в расписании, а также ссылки на карты для компаний, о которых пользователь искал информацию, – то Dreambeans поднимает те же базовые концепции на совершенно иной уровень, который, по мнению многих, кажется жутковатым и навязчивым, как по содержанию предлагаемой информации, так и по способу её подачи.
В более широком смысле это указывает на общее направление развития ИИ – не только в рамках одного приложения или Google, но и во всей индустрии. Подобный подход, как предполагается, становится всё более отталкивающим для большинства людей и со временем будет восприниматься как ещё более интрузивный.
Важно отметить, что обозреватель, проводивший тестирование, не является технофобом. Напротив, он ценит умные технологические решения и инновации, упрощающие жизнь. Именно поэтому его реакция на Dreambeans* представляется показательной: если концепция вызывает отторжение у специалиста, насколько негативно отреагируют обычные пользователи, которые менее погружены в технологические тенденции?
Далее будут представлены примеры, которые позволят оценить особенности работы приложения и его восприятие пользователями.
Примеры «историй» Dreambeans*
Вот несколько примеров «историй» Dreambeans*, появившихся в приложении в первый день работы, с некоторыми размытыми именами и личными данными в целях конфиденциальности:
- «Выходные Дж.Р. и его супруги, посвящённые отдыху и саморазвитию, включают в себя исследование динамики ручной ткацкой промышленности».
- «Обзор: новый высококачественный портативный динамик, который Дж.Р. давно хотел приобрести».
- «Предстоящее: супруга Дж.Р. посетит художественный фестиваль. Вы уже решили, что будете делать?»
- «Дж.Р., супруга Дж.Р. и их дети планируют вечер кино с просмотром фильма ‘Очень страшное кино 6’».
- «Настроение: ‘Genesis’ — идеальный саундтрек для танцевального вечера Дж.Р.».
Обозреватель выразил недоумение по поводу происхождения некоторых предложений. Сразу бросились в глаза (иногда лестные) карикатурные изображения его и его супруги, а также общее ощущение вторжения в личную жизнь из-за слишком персональной информации и фамильярного упоминания имён членов семьи и их интересов, интегрированных в материалы.
В обзоре уточняется: ранее обозреватель интересовался аудиосистемами; однако он никогда не искал и не упоминал фразу «ткани ручной работы»; упоминаемый фестиваль искусств действительно был в поле их внимания; при этом он не проявлял интереса к фильму «Очень страшное кино 6»; а также не является поклонником группы Genesis, хотя, по его словам, «не умеет танцевать».
Представленные материалы были показаны супруге обозревателя, а также нескольким друзьям и членам семьи, которых можно отнести к обычным пользователям технологий, не являющимся профессионалами или фанатами. Эти люди ежедневно используют разнообразные устройства как в личных, так и в профессиональных целях. Без исключения и без какого-либо навязывания мнения, все они отреагировали одинаково: «О, это жутко» и «Мне это не нравится».
Продолжение «жутких» предложений
Ситуация не улучшилась и далее. Большинство последующих предложений приложения продолжили смещаться в сторону «неприятного» и иногда были совершенно ошибочными, что вызывало недоумение. Например:
- «Отличные новости: теперь вы можете смотреть все эпизоды ‘Сайнфелда’ бесплатно через Plex на своём iPhone!»
- «Дж.Р. и его брат совместно работают над проектом, чтобы упростить просмотр контента для родителей, используя Plex на устройстве Apple TV».
- «Потрясающий пост Дж.Р. о ‘лучшем программном обеспечении для электронной почты’ появился в рассылке Beehiiv».
Относительно этого набора предложений обозреватель уточнил: он любит сериал «Сайнфелд», однако давно его не смотрел; он известен своей непереносимостью продуктов Apple и избегает их по возможности; он не живёт в одном городе со своим братом и считает жутковатым видеть его в карикатурной форме, случайно включённым в дискуссию о Plex (чем брат совершенно не интересуется); его новостные рассылки работают на платформе Kit, а не Beehiiv, что упоминается на его сайтах и в письмах.
Кроме того, обозреватель отметил, что хотя его линия волос изменилась, он «ещё не настолько лыс», выразив «благодарность» Dreambeans.
Ещё один пример, который не был показан визуально, представлял обозревателя в комбинезоне, устанавливающего «проволоку из нержавеющей стали с покрытием для галерейных холстов». Это была отсылка к общественной художественной галерее (с множеством неточных и вымышленных деталей), связанной с недавней кончиной его матери. Приложение беззаботно упомянуло её по имени, сопроводив жутковатой иллюстрацией, где обозреватель выполняет навык, которым он явно не владеет, в своей несуществующей домашней мастерской. Автор обзора подчеркнул, насколько тревожным, неуместным и навязчивым было появление такого элемента в ленте.
Главное ощущение от всего увиденного – это сочетание осознания того, что система «знает слишком много» (особенно когда она непринуждённо упоминает по именам и изображает в карикатурах супругу, детей и других членов семьи), и одновременно бесполезности или отсутствия глубокого смысла в предоставляемой информации. Она кажется поверхностной, общей и, по сути, такой, какую можно ожидать от контента, сгенерированного ИИ.
Таким образом, опыт взаимодействия с Dreambeans характеризуется сочетанием жутковатости и низкой полезности. Именно аспект «жутковатости» произвёл наибольшее впечатление.
Тонкая грань, которую Google не смог удержать
Возможно, если бы предоставляемая информация была исключительно полезной, такой компромисс мог бы быть более приемлемым. Однако в данном случае это кажется странным и слишком навязчивым. Обозреватель отмечает, что это становится общей темой для следующего этапа развития ИИ, который, по его мнению, навязывается пользователям.
В качестве примера можно привести Google Gemini Spark – «агентского» ИИ-ассистента, анонсированного на ежегодной конференции разработчиков Google I/O, который призван быть «проактивным» помощником, выполняющим задачи от имени пользователя. Дэвид Пирс из The Verge получил ранний доступ к инструменту и назвал его «самым впечатляющим и ужасающим опытом работы с ИИ», который он когда-либо испытывал, также применив к нему слово «жуткий».
По словам Пирса, он не может отделаться от глубоко жуткого ощущения от всей системы. Работа Spark кажется ему чем-то волшебным, но очень навязчивым. Странно, что Spark так непринуждённо сообщает имена и возраст его детей, напоминает ему, где он живёт, и находит информацию, которую, как он уверен, он никогда не предоставлял Google. Интеллектуально, он знает, что Google обладает огромным количеством информации о нём — его электронные письма, календарь, фотографии и история поиска дают полное представление о нём. Однако видеть, как Spark обращается со всеми этими данными не как с тем, что нужно защищать, а как с тем, что можно использовать для «майнинга», вызывает неприятные ощущения.
Эта реакция, по мнению обозревателя, полностью соответствует его собственному опыту с Dreambeans. Пользователи всегда знали, что Google обладает обширной информацией о них, но при этом понимали, как эти данные используются, а как нет. Однако прежде компания никогда не демонстрировала столь явно, насколько много она может узнать о человеке, собирая разрозненные данные и создавая неловкое ощущение «роботизированной интимности».
Обозреватель вспоминает, как много лет назад на пресс-брифинге Google представитель компании рассказывал о потенциале их систем и сервисов, но отмечал, что они намеренно воздерживаются от чрезмерной персонализации. Несмотря на доступ к огромному объёму данных, в компании осознавали, что пользователи не будут положительно реагировать на демонстрацию их личной активности в столь откровенной манере. Тогда в Google понимали, что большинство людей не ищут искусственного «лучшего друга», знающего о них слишком много, и что такой опыт пересечёт черту «жуткого».
Теперь же, по мнению обозревателя, эта граница официально стёрта. Мы вступили в «жуткую эру» ИИ, и, кажется, никого больше не волнует, действительно ли это то, чего хотят или ценят пользователи.
Сейчас складывается впечатление, что технологические компании активно демонстрируют пользователям, насколько много они о них знают. И даже если в их действиях нет по-настоящему зловещего умысла, это вызывает дискомфорт. Ощущение «жутковатости» усиливается. В период, когда доверие к технологическим гигантам крайне низко, а большинство людей за пределами технологической индустрии испытывают всё большее разочарование от ИИ и всех навязываемых им эффектов, подобный подход не способствует формированию позитивного имиджа.
На фоне этих ощущений, а также стремительного роста числа ИИ-«создателей контента», распространения безжизненных текстов, сгенерированных ИИ (о чём можно судить по активности в LinkedIn), и тревожно размытой границы между фотореалистичными изображениями, созданными ИИ, и реальными фотографиями, сложно не задаться вопросом: является ли весь этот предполагаемый прогресс в конечном итоге более полезным или вредным для нас, живых людей в реальном мире? К этому также добавляются:
- Раздражающий опыт взаимодействия с чат-ботами поддержки на основе ИИ.
- Постоянно расширяющийся спектр мошеннических схем и угроз безопасности, использующих ИИ.
- Сокращение рабочих мест, обусловленное внедрением ИИ.
Несколько месяцев назад, по прошествии трёх лет с момента запуска Gemini, обозреватель задал вопросы: «Действительно ли кто-то просил об этом?» и, что более актуально: «Это ли то будущее, которое мы хотели?» По мере того как мы вступаем в новую эру инноваций в области ИИ и наблюдаем за тем, как это влияет на нашу жизнь, становится всё труднее представить, что многие люди за пределами технологической индустрии ответят на эти вопросы утвердительно.
И, к сожалению, для того чтобы понять, что ситуация будет становиться лишь более экстремальной и, да, более «жуткой», не нужны сложные чат-боты с ИИ.
