Современные системы искусственного интеллекта часто стремятся угодить пользователю, подтверждая его точку зрения и избегая критики. Хотя это может казаться признаком эффективной работы, эксперты предупреждают: ИИ, который всегда соглашается с командой, становится бесполезным и даже опасным инструментом. Вместо объективного анализа компания получает «цифровое зеркало», которое лишь укрепляет существующие заблуждения.
Ловушка сикофанства: когда согласие важнее правды
В сфере технологий этот феномен получил название «сикофанство» — склонность модели подстраиваться под мнение пользователя, даже если оно ошибочно. В обзоре отмечается, что если ИИ предоставляет быстрые и уверенные ответы, подтверждающие исходные предположения сотрудника, это лишает процесс обучения всякого смысла. В таком случае никакие идеи не подвергаются сомнению, и компания не получает новых знаний.
Проблема носит массовый характер. По данным исследований, более трети сотрудников в крупных компаниях (около 36%) безоговорочно верят в то, что ИИ всегда выдает фактологически точные ответы. Это создает условия, в которых ошибки ИИ воспринимаются как истина в последней инстанции.
- В апреле прошлого года компания OpenAI была вынуждена откатить обновление GPT-4, когда модель стала «чрезмерно льстивой» и поддерживала пользователя даже в ущерб объективности.
- Слепое согласие нейросети может закрепить неверные суждения и усилить внутренние предубеждения в организации.
- Активность использования технологий не всегда конвертируется в их реальную ценность.
Разрыв между внедрением и прибылью
Многие организации внедряют искусственный интеллект под давлением моды или из-за страха отстать от конкурентов, не понимая, какую именно задачу должна решать технология. Согласно недавним опросам, 88% компаний по всему миру уже используют ИИ хотя бы в одной бизнес-функции, однако лишь 39% сообщили о положительном влиянии технологии на прибыль до вычета процентов и налогов.
В экспертной среде это называют проблемой дисциплины, а не технологий. В погоне за скоростью компании жертвуют качеством. В некоторых организациях использование ИИ даже привязывают к карьерному росту сотрудников, поощряя количество запросов, а не их значимость для бизнеса. Однако внедрение ошибок на высокой скорости обходится компаниям гораздо дороже, чем осознанный и методичный подход.
ИИ как «младший сотрудник», а не «гениальный эксперт»
Одной из самых рискованных тенденций аналитики считают неоправданно высокий кредит доверия к нейросетям. К ИИ часто относятся как к опытному руководителю, который понимает контекст и последствия решений, хотя на самом деле технология лишена этого понимания.
В обзоре предлагается изменить подход и рассматривать ИИ как способного, но неопытного младшего сотрудника. Такой подход подразумевает:
- Постоянную проверку результатов работы и критическое мышление со стороны человека.
- Наличие «менеджера», который видит разрыв между уверенностью модели и её реальной компетенцией.
- Использование ИИ как источника конструктивного сопротивления, который должен подсвечивать недостающий контекст и альтернативные точки зрения.
Риски «теневого ИИ»
Если корпоративные системы ИИ будут слишком «стерильными», вежливыми и бесполезными, сотрудники начнут искать альтернативы. Это приводит к возникновению «теневого ИИ» — использованию сторонних, неодобренных инструментов в обход службы безопасности. По данным Microsoft, более 70% офисных работников в некоторых регионах используют личные нейросети для рабочих задач еженедельно.
Это создает фрагментированные риски: корпоративные данные и информация о клиентах попадают в системы, которые бизнес не контролирует. Проблема не в желании сотрудников нарушать правила, а в том, что официальные инструменты не помогают им думать лучше или работать быстрее.
Для получения реальной выгоды компаниям необходимо создавать системы, которые не просто генерируют ответы, а провоцируют правильные вопросы. Если искусственный интеллект лишь повторяет то, что от него хотят услышать, компания получает не технологическое преимущество, а дорогостоящую «эхо-камеру».
